面向图结点分类任务的灵活感受野图神经网络研究

来源 :东南大学 | 被引量 : 0次 | 上传用户:mirowtg
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
图作为一种广泛存在于自然界的数据结构,主要由结点以及结点间的边关系组成,其中结点用于刻画某类对象,对结点进行有效分类可以挖掘图中诸多性质,因而蕴含巨大价值。但由于图是一种非欧式结构数据,每个结点具有不同数量的相邻结点且排列顺序任意,这给图结点分类任务带来了困难。随着图神经网络(Graph Neural Networks,GNNs)的出现与发展,图结点被表示成低维稠密特征向量的同时又保留了一定结构性信息,这大大促进了结点分类任务的发展,因此越来越多图模型将研究的重点放在图神经网络上。图神经网络主要采用图卷积进行当前结点与邻域结点的聚合学习,但大部分图神经网络模型仅仅考虑一跳邻域结点,导致了单层卷积算子难以对远距离结点进行有效捕获,且无法灵活改变感受野范围。针对这一问题,本文从空间卷积方法入手,提出了基于多跳层级卷积的图神经网络模型(Multi-Hop Hierarchical Graph Neural Networks,MHGNN),提升了感受野范围与灵活性。在此基础上,本文进一步提出了基于多尺度结构的多跳层级图神经网络(Multi-Scale Multi-Hop Hierarchical Graph Neural Networks,MSHGNN),改进原模型使其具有自适应感受野学习能力,同时抑制图神经网络的过度平滑问题(Over-Smoothing)。本文就图神经网络主要进行了如下两方面工作:1)提出了多跳层级卷积图神经网络模型MHGNN。利用空间卷积的特性,将不同跳结点按层同步向目标结点聚合,以实现对K跳邻域结点信息的捕获,从而提升感受野范围。同时,聚合方式的选取更加灵活,可组合成更为复杂的函数。并且,借鉴自注意力机制对跳特征进行注意力加权,关注重要跳特征。在九个图结点分类数据集上的实验表明,更广更灵活的感受野有助于提高模型对结点分类的处理能力。2)在MHGNN模型基础上,进一步提出了多尺度多跳层级图神经网络模型MSHGNN。该模型使用并行层级卷积与注意力跳跃连接相结合的方式,在并行层级卷积中同时计算不同感受野的层级卷积算子,并使用通道池化进行过滤;在注意力跳跃连接中,将不同尺度的中间层特征送入自注意力机制进行自适应感受野学习,并使用结点距离约束辅助分类器进行训练。在结点分类数据集上的一系列实验表明,MSHGNN网络具有更强结点表示能力,模型泛化性能进一步提高。
其他文献
近年来,随着比特币逐渐进入大众的视野,作为其底层支撑的区块链技术也受到了学界和业界的关注。因其特殊的链式数据结构、共识算法和激励机制,区块链系统具有一些独特的属性,如链上数据不可篡改,节点间无需信任等。然而,极低的系统吞吐量却成为了其大规模应用的最大障碍。因此,提高区块链系统吞吐量一直都是研究人员所关注的重点。目前,大多数的研究成果都聚焦于共识算法层面,而忽略了底层广播网络对吞吐量的影响。事实上,
随着移动互联网的发展,越来越多的用户使用移动终端获取视频相关服务。视频传输要求高带宽和低时延,如何在网络中高效传输视频流,并为用户提供高质量的视频服务,是个急需解决的问题。多路径传输是在多条不相交的路径上进行数据传输,可以聚合网络带宽,提高传输性能。路径分配和端到端传输控制是影响多路径传输质量的重要因素。软件定义网络(SDN)将控制平面和数据平面分离,可以高效地实现对视频流的路径分配和端到端传输控
目前我国信息化建设高速发展,在互联网融合的推动下“三网融合”的程度不断加深,让传统国有通讯企业之间的竞争日益激烈,由于贵广网络作为传统通信国有企业,在互联网时代的高速发展中用户用网习惯的转变和发展,导致企业产品内容显得过于单一同质化严重没有特色,企业收入过于依赖基础费无其他创收点,营销渠道老旧固化无法满足互联网时代发展,促销方案过于传统与互联网时代发展脱节,相关人员在思维和能力上无法满足互联网服务
随着第五代移动通信系统的飞速发展,传统的正交多址接入技术很难满足大规模用户设备连接和超低延时的需求。上行免授权非正交多址接入(Non-Orthogonal Multiple Access,NOMA)系统属于码域NOMA(Code Domain Non-Orthogonal Multiple Access,CD-NOMA)的一种,可有效解决用户数量激增导致的信令开销和传输延迟过大的问题,使得大规模连
转毂试验是汽车类产品开发过程中的一种很重要的室内台架试验,通过转毂试验不仅可以对电动车进行动力性检测,还可以测量多工况能耗指标,为研究电动车的动力性、经济性、舒适性等性能提供参考。电动车转毂驾驶机器人能够代替人类驾驶员进行转毂试验,有效提高试验精度和节省试验成本。论文基于速度跟踪控制这一转毂试验的基本需求,对电动车转毂驾驶机器人自学习策略和控制方法进行了研究。首先以电动车纵向控制系统模型为基础,开
学位
SiCf/TC4复合材料作为航空航天领域的高端材料,需求广泛,一直是国内外研究的重点。与SiCf/TC4复合材料传统制造方法相比,激光熔覆叠层复合增材制造技术制备该材料具有周期短、成本低的优势,拥有广阔的应用前景。首先,针对SiC纤维刚度大、易折断的特点,制定了纤维绕丝和储丝方案,将多根纤维穿入外径0.5 mm,内径0.3 mm的并排塑料毛细管内,使得纤维既便于缠绕,又便于张拉,纤维间距降低至0.
本文以沙河特大桥为工程背景,利用有限元软件Midas/Civil建立了钢管混凝土拱桥的全桥有限元模型,对该桥进行施工过程分析,研究了混凝土收缩徐变对钢管混凝土拱桥受力性能的影响,以及吊杆损伤对钢管混凝土拱桥静力和动力性能的影响。本文取得的主要结论如下:(1)使用有限元软件Midas/Civil对该桥进行仿真计算,给出了大桥的有限元计算模型。在施工阶段过程中,随着系杆的张拉,纵梁和拱肋的位移会有所减
为方便游客观光通行而建设的景观桥在设计时往往追求结构新颖、造型独特,因此体型复杂的异形景观桥不断出现。由于桥梁构件截面形式和空间布置形式的多样性,风流经异形景观桥时会表现出十分复杂的三维流动效应,这对桥梁的抗风设计往往会产生不利影响。准确掌握其气动特性对其抗风设计具有重要价值。以国内一座拟建的异形景观桥为工程背景,通过全桥刚性模型测压风洞试验测试并研究了其气动特性。主要工作及结论如下:(1)严格按
为了实现档案的定位和存取,提高档案管理工作的自动化程度和水平,本文对档案机器人的一些关键技术展开研究,设计并实现了在档案库房内自主导航和存取档案的档案存取机器人。首先,提出一种基于自然寻迹的智能导航定位方法。一是对档案存取机器人的底盘进行设计,包括微控制器和电机的选取;二是针对选取的导航传感器的读数进行复合数字滤波,并对移动底盘的角速度和方向进行PID控制;三是依据档案库房环境的特征,提出了在过道