面向异构信息网络的表示学习方法

来源 :福州大学 | 被引量 : 0次 | 上传用户:robinhohome
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
异构信息网络是现代信息网络中的普适性存在,且随着互联网技术的日益发展,其智能分析结果广泛应用在个性化推荐等各种领域中。但作为一种复杂的非线性结构,异构信息网络的高维、异构等特性给其直接挖掘带来了困难。网络表示学习通过映射函数的学习将信息网络中的节点表示成低维、稠密的向量形式,可为后续节点聚类等智能分析任务提供有效的特征表示机制,目前已成为信息网络挖掘中重要的研究基础。目前,网络表示学习方法在同构信息网络上已日趋成熟,能较好地表征网络的拓扑结构。但异构信息网络中各种不同类型的节点和节点间交互关系,带来语义多样性的同时也给异构信息网络表示学习带来了极大的挑战。此外,网络表示学习方法大都局限于节点局部拓扑结构和节点局部交互关系,未融合节点在局部网络结构中的表示和网络的全局结构信息,因此,如何综合节点在局部网络结构中的表示和网络全局结构信息也是异构信息网络表示学习领域中的另一大挑战。有鉴于此,本文以异构信息网络为研究对象,围绕异构信息网络上的网络表示学习,针对如何提取异构信息网络中丰富的语义信息,以及如何在网络表示学习中综合节点在局部网络结构中的表示和网络全局结构信息展开研究。首先,针对异构信息网络中网络表示面临的语义多样性问题,本文在图注意力神经网络中使用层次注意力充分表示异构信息网络中多条元路径的语义信息;然后,将节点级注意力与跳跃知识网络结合;最后,添加边界损失并特别引入节点外部类别标签信息,通过邻域损失函数指导表示学习模型的训练,使得模型在提取网络中丰富语义信息的同时,也能较好地兼顾网络结构。其次,针对异构信息网络的表示学习中节点在局部网络结构中的表示和网络全局信息融合的问题,本文提出了基于互信息的异构信息网络表示学习模型。其通过编码表示学习模型得到节点在局部网络结构中的表示,再经由全局表示编码器得到网络全局表征向量;然后,基于生成对抗思想提出一个负样本生成器,并添加扰动形成对抗性数据,从而进行对抗训练以生成负样本;最后,在整体上进行对抗训练以最大化全局向量和节点在局部网络结构中的表示之间的互信息,进而实现生成的网络表示在节点局部表征的基础上融入全局网络结构信息。实验表明,本文通过层次注意力、跳跃知识网络、负样本生成器和基于互信息的判别器间的对抗训练考虑网络中的多语义信息,并将网络全局结构信息和节点在局部网络结构中的表示有效融合,得到较高质量的网络表示。
其他文献
近年来,人们在机器阅读理解的研究上取得了很大的进展。机器阅读理解的主要任务就是通过给定的文章和相对应的问题,利用模型的理解和推理能力给出问题的对应答案,因此如何提升机器阅读理解模型的推理能力,成为了机器阅读理解的重要研究方向之一。在机器阅读理解领域,大部分模型是针对特定阅读理解任务与数据集。本文分别针对离散推理和文本跨度预测类阅读理解问题提出相应的深度学习模型,并分别基于DROP(Discrete
学位
空气污染对人类健康造成严重危害,已成为一个难以解决或不可逆转的全球性环境问题。虽然建立了空气质量监测站来收集空气中的污染物成分数据,但由于监测站的建设费用非常昂贵,为了节省成本,监测站只部署在少数地点,并且需要进行维护,仅在部分时间启动。因此,我们只能得到部分位置和时刻的空气质量数据。由于空气质量数据量多且特征复杂,现有的工作根据已有部分位置和时刻的空气质量数据,使用深度学习技术推测其它位置和时刻
学位
随着信息通信产业的发展,在我们经历了互联的网时代、移动互联网的时代之后,如今已经走向物联的网时代,这个时代赋予了应用创新和发展的更大的机的会。在诸多场景应用中,对的于物的联网技术运用的得最丰富和的典型的就是的智能家居。智能家居是的以家庭的住宅为的平台,使用的物联网技的术集成与的家居生的活有关的基础的设施,提供了智能化的智能家居服务,从而为人们提供便利和舒适居住环境。同时随着各类智能虚拟助手的兴起,
学位
视觉目标跟踪是计算机视觉的一个重要研究领域。对于一个图像或视频序列,在仅有第一帧标注的情况下,视觉跟踪方法需要在后续的帧中预测目标位置。视觉目标跟踪可以对图像与视频中的任意目标进行跟踪,因而常常作为大型视觉系统的重要组成部分,具有较高的理论和应用价值。基于深度学习的目标跟踪方法在多个测试基准取得了较好的表现,但是仍然存在模型构建成本高、泛化能力受限、物体表征精确度低等问题。为应对上述挑战,本文从语
学位
随着智能手机等设备的普及,各种数字图片更加频繁地出现在人们的日常生活当中。如何让计算机通过图像来认识世界是许多学者一直研究的任务,其中一个重要子任务是图像显著性检测。图像显著性检测是许多图像处理任务的重要步骤之一,目前已经提出很多图像显著性检测方法。RGBD图像相较于彩色图像拥有额外的深度图,具有更全面的3D空间结构信息。本文致力于研究基于深度学习的RGBD图像显著性检测方法,包括基于边缘感知和跨
学位
文本情绪原因识别任务的目标是从文本中识别某种情绪表达背后的原因,已逐渐成为自然语言处理领域中的热点研究方向之一。近年来,随着深度学习技术的发展,该领域的相关研究取得了不错的进展。尽管如此,仍然存在着诸多挑战:未能充分利用文本子句间的相对位置距离特征,难以精确定位目标情绪子句的位置所在;未能充分挖掘文本中字符级、词语级等多粒度的文本语义特征;不能很好解决情绪多样化和数据不平衡带来的模型性能受限的问题
学位
公共交通在很大程度上能提高道路利用率,降低程度拥堵。城市轨道交通在公共交通中占据了相当重要的一环,相对于普通公交而言,轨道交通拥有独立路权,不会受到高峰时期道路拥堵的影响,同时城市轨道交通的运力又远大于同样拥有独立路权的快速公交。城市轨道交通成为了越来越多大城市缓解道路拥堵问题,改善路面交通的首要手段,是城市交通的核心之一。地铁客流关系到地铁系统的运营调度,是地铁数据中重要一环。分析不同条件下地铁
学位
跨领域文本情感分类旨在利用迁移学习算法实现领域间的知识迁移以解决目标领域标注样本匮乏的问题,是自然语言处理领域中重要研究分支之一。目前研究者们提出了一系列基于深度学习的方法来学习领域间的共性特征并取得了一定的成果。尽管如此,仍然存在以下挑战:现有方法捕捉句子中局部关系的能力不足,导致情感分类存在偏差;以往方法在提取文本特征时难以有效利用文本的上下文依赖关系与整体信息;现有模型存在分类特征空间受限的
学位
发型是人脸外貌的重要特征,发型识别在许多领域都具有价值,如美容美发行业的发型推荐,游戏角色自动生成中的发型选择等。基于头像的发型识别是指给定一张包含具有头发,人脸信息的头像图片,通过对头像的分析,识别出头发的造型。本文针对网龙网络游戏公司提出的发型识别的任务需求,通过计算机视觉技术对发型识别进行了研究,主要工作如下:(1)通过引入注意力机制和多金字塔池化模块,本文提出了基于PSPNet改进的头发语
学位
随着知识数量的指数增长,知识图谱成为了组织知识的有效工具,其已被广泛应用于各行各业。近年来,为了应对知识缺失问题,以机器学习为基础的知识表示学习方法备受关注,该方法将知识表示为向量,使计算机能够理解和使用。目前,平移模型和基于神经网络的模型是知识表示的两大研究热点。平移模型虽然可以有效地捕获知识的结构信息,但该类模型设计简单,学习能力常常受到限制。基于神经网络的模型虽然表现出强大的学习能力,但其忽
学位