门控图注意力网络的研究与应用

来源 :厦门大学 | 被引量 : 0次 | 上传用户:jackiesage
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
现实生活中有很多场景是用更普遍的图结构进行表示的,如引文网络、蛋白质分子网络、知识图谱等等。传统的卷积神经网络在挖掘图结构数据的特征和模式方面显得无能为力。为了能够在图结构数据上进行卷积操作,研究者提出了图卷积神经网络以解决图结构数据上平移不变性缺失所造成的问题。近几年,图卷积神经网络发展迅速,在用户推荐系统、舆情监控和控制、癌症预测等领域都得到了大量的成功应用。为此,本文在详细研究图卷积神经网络的网络结构和发展历程后,总结出了图卷积神经网络目前存在的两大主要挑战:一是缺乏多阶邻域信息的聚合;二是缺乏先验知识的加强。在此基础上,提出一种基于门控机制的图注意力卷积神经网络,并将其应用到图节点分类任务上;然后对提出的模型进行适应性修改,分别提出了两个新的模型以应用到癌症分类任务、知识图谱链接预测任务上;最后验证本文提出的模型的有效性和可解释性。本文提出的三个模型如下:1.提出门控图注意力网络(Gated Graph Attention Network,GGAT)并将其应用到图节点分类任务上。GGAT模型通过引入门控机制以突破主流图神经网络只能依赖短程信息的限制,并能够对信息进行选择和过滤。在基准图数据集Cora、Citeseer、Pubmed上的实验结果表明GGAT模型在图节点分类任务上较传统神经网络模型获得更高的分类准确率。2.提出融合先验知识的门控图注意力网络(GGAT with Prior Knowledge,PK-GGAT)并将其应用到癌症分类任务上。实验结果表明原始GGAT模型在癌症分类任务上较传统机器学习算法以及神经网络模型获得更高的分类准确率;在融合先验知识后,PK-GGAT模型比GGAT模型取得更好的分类准确率,这表明先验知识能够加强模型性能。另外,本文还提出一个混合特征选择算法(Hybrid Feature Selection,HFS)以减少传统机器学习算法的训练时间。3.提出关系门控图注意力网络(Relational Gated Graph Attention Network,R-GGAT)并将其应用到知识图谱链接预测任务上。在知识图谱数据集FB15k、FB 15k-237、UMLS、WN18RR上的实验结果表明R-GGAT模型在链接预测任务上较传统神经网络模型获得更高的预测效果。
其他文献
目的:研究老北京水果~1品牌的发展对策。方法:从品种资源分布、特色文化属性、保护恢复情况、品牌登记背书4个方面分析老北京水果发展现状和存在的问题。结果:当前存在部分品种恢复有难度、协同联动发展机制有待完善、品牌建设服务能力有待提升、品牌特色内涵挖掘有待深入、品牌宣传推介力度有待加强5方面问题。结论:从强化品牌创建引领、加强品牌创新联动、挖掘保育优质资源、开展果园提升改造、延展品牌宣展形式、畅通销售
期刊
最近,对于纯文本数据的文本摘要技术已经取得了巨大的突破,但仍然存在对结构化信息忽略的问题。有相当部分的数据是带有结构化信息的文本,在某些领域,合理地利用结构化信息对于改进文本摘要的质量至关重要。为此,本学位论文在两个领域探讨融合结构化信息以改进文本摘要的效果,包括:面向推文的实时事件摘要中提高摘要完整性和基于抽象语法树提高代码摘要质量。首先研究了面向推文的实时事件摘要问题。推特文本中包含了时间信息
学位
在街道设计回归人本主义的背景下,街道界面连续性和场所性重新引起人们的关注。文章首先综述了现阶段对街道界面连续性的研究;其次,以慕尼黑为例,总结了其内城商业步行街的形成、发展和完善;再次,运用最大切面法对慕尼黑内城商业步行街及其他六条典型步行街进行界面密度量化研究,并归纳出街廓尺度、街道宽度与界面密度的关系;最后,从街区、街道和界面三个层面提出了商业步行街界面连续性导控策略,以期推动城市商业街建设作
期刊
随着三维模型数量呈海量式增长,迫切需要简单快捷而又准确高效的检索系统来管理三维模型。基于草图的三维模型检索方式不仅具有出色的用户友好性,也满足当前各行各业快节奏的生产需求。然而,草图与三维模型之间巨大的跨模态差异,给相似性度量匹配与检索造成了较大的困难。另外,由于草图线条扭曲、内容抽象,导致特征信息少、挖掘难度大。本文致力于研究如何有效地解决这两大难题,采用以深度学习方法为基础,构建了两种不同的方
学位
传统的药物研发周期非常长,通常需要投入巨资研发。使用计算机辅助药物发现可以提高研发效率并有效降低研发成本,引起了广泛关注并吸引众多学者进行相关研究。药物靶标相互作用预测是计算机辅助药物发现的一个重要研究领域。药物靶标相互作用预测所涉及的数据具有噪声多、维度高和稀疏的特点,矩阵分解方法常被用以预测未知或缺失的数据,能很好应对具有上述特点的数据。因此,本文基于矩阵分解从以下几个方面展开对药物靶标相互作
学位
纹理滤波是一种底层的图像处理任务,它的主要操作是保留突出的结构,去掉振荡纹理。研究这一问题的关键是找到图层间正确的边界来分离结构和纹理。传统的过滤方法在超参数调节上会花费大量的时间,深度学习方法则需要依赖高质量的数据集。本文针对研究中出现的问题提出了两种方案来研究利用生成对抗网络(GAN)进行纹理滤波。方案一提出一种半监督的纹理滤波方法,利用有限的标记数据和大量的非标记数据训练GAN。在训练阶段为
学位
近年来,随着“智慧城市”理念的推行,人们愈发关注城市公交系统的运营效率问题。移动通信技术和大数据技术的迅猛发展为乘客和公交系统交互创造了条件,弹性公交系统是结合了公交系统与上述两种技术的一项创新型公交系统,该系统可以动态地调整公车行驶路线、调度车辆来满足乘客请求,在有效缓解交通压力、节省能源消耗的同时保证乘客乘车的舒适度,其出现反映了城市公交系统朝灵活性和便捷性发展的趋势。传统公交系统中设置的固定
学位
为了保障IT服务的稳定运行,由人工智能与运维结合的智能运维近年来引起关注。其中两项核心任务为预测与异常检测。预测是基于时间序列估计出下一状态值。异常检测是基于时间序列判断当前状态值是否异常。当前二者的主要挑战是:在现有方法中被分开处理,且无监督场景下异常会干扰模型,同时精度较高的深度学习在计算资源有限时难以应用。因此,研究面向IT运维时序数据的预测与异常检测有重要意义。基于上述分析,论文提出以下两
学位
统计图作为日常生活和工作中常用的数据载体,通过图像的形式能够传输数据的内容、占比、走势等信息。近年来,在统计图问答任务上不断涌现出各类基于深度学习的算法,并取得了不错的效果,但仍旧存在一些问题和局限。因此,本文致力于统计图问答任务的算法研究,将任务划分为不同子任务模块,针对不同子任务模块的特性及研究现状提出解决方案,并结合各模块的工作提出新的算法模型框架解决统计图问答任务。本文的研究工作可以概括如
学位
大多数图像超分辨率(Super Resolution,SR)方法假定低分辨率(Low-Resolution,LR)图像是由高分辨率(High-Resolution,HR)图像通过固定的退化方式(如双三次插值下采样)得到的。但现实世界中的LR图像的退化过程多样,当LR图像的退化方式与SR模型假定的退化方式差异较大时,SR效果不佳。因此,图像盲超分辨率方法是图像超分辨率领域的研究趋势,而在盲超分辨率任
学位