具有深度的图卷积神经网络探讨

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:sjuser
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着云计算、大数据和并行计算的发展,以卷积神经网络(Convolutional Neural Networks,CNN)为代表的深度学习算法已经在人脸识别、目标检测、语义分割等领域取得了巨大的成功。这种成功在很大程度上得益于CNN的深层次结构——通过反复堆叠卷积模块以实现低层次提取细节特征而高层次提取内容信息。可以说,正是卷积神经网络的深层次结构赋予了CNN在数字图像处理领域的重要地位。受卷积网络在图像领域的启发,近年来专门用于处理非欧数据的图卷积网络(Graph Convolutional Networks,GCN)受到了越来越多的重视。为了应对图数据结构的不规则问题,一般意义上的图卷积网络建立在谱图理论的基础上,通过图数据上的Fourier变换反向定义图上的“卷积”运算。这种网络已经在节点分类、社交网络、点云数据和化学分子识别等领域取得了初步的应用。然而,大量的研究工作表明,由于过平滑和梯度消失等问题的出现,建立在谱图理论基础上的图网络经常被限制在极浅的深度(2~3层),从而极大的限制了图网络的表现能力和进一步的理论提升空间。本文在重点回顾图网络领域内相关工作的基础上,试图对图卷积神经网络的深度问题进行一定的探讨。文章的主要结果如下:(1)从信息传递和热传导方程的角度看待图网络中的过平滑问题,指出信息传递网络的过平滑是不可避免的,而GCN特有的基于谱的规范化信息处理方式加快了过平滑的到来。(2)通过数学推导,分别给出了二分连通图和非二分连通图情况下,GCN的收敛结果。(3)放弃谱域上GCN算法深度的改进,在顶点域的图方法上改进了残差机制,提出残差-图注意力网络Res GAT,使网络的精确度随深度持续增长到6层左右,并在Cora、Citeseer、Pubmed三个主流的文献引用数据集上取得了最佳的计算效果。文末,我们对图网络领域内相关的其它前沿问题进行了初步探讨。
其他文献
在精密仪器,医疗器械、微电子行业中,微型零件的需求量不断增加。微塑性成形技术是制备微型零件最有潜力的方法。当材料尺寸减小到一定程度,其力学性能和物理性能等都会表现出明显的尺寸效应。超细晶材料在微机电系统中具有很大的应用潜力,而深冷轧制技术是制备超细晶的有效手段,因此将深冷环境引入到微尺寸效应的研究中具有重要的意义。本文采用室温和深冷轧制技术制得不同厚度的H65黄铜薄板,借助光学显微镜、透射电镜等分
近年来,二维过渡金属硫化物与金属结构相互作用的强耦合效应吸引了研究人员的广泛关注。当二维过渡金属硫化物由多层减至单层时,其带隙由间接带隙变为直接带隙,且具有较大的激子结合能和较强的激子跃迁偶极矩,因而单层过渡金属硫化物在室温下有关激子的器件中有潜在应用。相较于有关J聚体或量子点的强耦合研究,单层过渡金属硫化物强耦合效应的研究可以为室温条件下的器件创新提供更好的应用平台。然而,为了将具有强耦合性质的
在机械加工中,钻削加工占有十分重要的位置,因此在选择钻削刀具时就提出了很高的要求。在二并联机床上刃磨的麻花钻具有很多优点,如横刃呈S形,定心性好、钻削力小和钻孔精度高等。但是在实际刃磨过程中,刀具刃磨参数中钻尖顶点距离砂轮端面最高点的距离是手动对刀控制。该参数就是对刀位置,其很小的变动就会对实际刀具刃磨结果有明显的影响,尤其对横刃部位的影响。横刃是螺旋面钻尖的主要部位,螺旋面钻尖是麻花钻的主要工作
制造业是国民经济的基础产业,随着科技的发展,传统制造业正在向智能制造方向迈进。作为智能制造的重要载体,智能工厂的主要特点是生产管理的智能化与信息化,其核心是制造执行系统(MES)。而传统的MES智能化集成相对较少,存在数据处理能力不足、数据管控缺失等问题,且常规MES系统对生产异常也难以做到准确和实时预测。本文从企业实际着手,对智能制造背景下的智能工厂MES系统和产线实时预警系统进行了研究,实现了
烧结过程余热资源回收利用是我国“十一五”以来现代钢铁联合企业的重点任务之一,目前已被纳入我国《钢铁工业调整升级规划(2016-2020)》中。实施竖罐式余热回收技术变革和基于环冷机模式的余热回收技术挖潜是我国“十三五”期间乃至更长时间内烧结余热回收的两条技术路径。其中,基于环冷机模式的余热回收技术挖潜更具有现实意义:自上世纪90年代我国第一条环冷机模式的余热回收工程在马钢实施以来,国内外各学者及技
随着社会信息化的快速发展,人们对DSP性能的要求越来越高,多内核结构成为其发展的主要趋势。外部总线接口单元(EBIU)作为多核DSP中内核处理器与外部设备之间连接的桥梁,在DSP设计上占据着举足轻重的地位。目前绝大多数国内厂商采用传统EBIU设计,而传统EBIU采用分布式仲裁的方式来实现内核处理器对外部总线资源的共享,存在着多核DSP扩展性较差、仲裁功耗较大等问题。因此需要设计一种扩展性较强并且仲
对戏曲艺术美的认识和把握,需要与具体的社会环境相结合。伴随着社会历史的演进,中国戏曲艺术在否定之否定的过程中呈现出三种美的形态——古朴的美、古典的美、现代的美。面对中国戏曲进入繁荣发展的新时期,在纵观中国戏曲发展阶段的基础上,辩证地认识中国戏曲现代的美是时代提出的新命题。本刊特邀理论与实践并举的戏曲专家陈鹏,盱衡大局,提要勾玄,从历史与现代、内容与形式、整体与局部的角度解读中国戏曲艺术蕴述宏富、苍
期刊
随着云计算,物联网和人工智能的迅猛发展,全国多个城市在规划中先后提倡智慧城市的建设,其中智慧园区建设是其中的一个重要建设内容,然而目前园区在安全监控方面过度依赖于人力物业的管理,导致成本过高且存在较高的安全隐患。同时,在园区管理方式中不够主动,不能及时应对突发情况。针对上述问题,目前园区安全监控大部分是通过视频监控解决,即把摄像头传输的视频展示在显示屏上,人工去判断视频中人员身份或刷卡登记等方式。
在知识经济、共享经济和智能手机普及的个性化时代,世界经济和中国经济中占比超过50%以上的家族企业为了适应新的形势,其发展过程中面临的问题成为众多学者研究的热门话题之一。而我国从改革开放迄今三十多年来,家族企业大多还是创始人执掌公司的大权,是主要决策力量,因此,创始人的领导风格对于家族企业在面对困难和挑战时的领导行为和决策至关重要。本文在基于对家族企业和领导风格及企业发展变革的文献综述基础上,以双案
建筑机器人是指在土木工程领域中使用的机器人,它可以代替工人完成简单重复的施工任务,并且能够保证具有稳定、高效的工作质量。通过使用建筑机器人代替施工人员,不但能够有效克服劳动力不足的问题,还可以代替工人在危险恶劣的施工环境中工作。为了能够更好的将建筑机器人投入到实际施工应用中,本文结合具体建筑施工机器人应用,对其虚拟仿真与增强现实共性技术进行研究,搭建机器人虚拟仿真平台,在实际施工前对施工过程进行仿