基于深度学习的知识图谱推理方法研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:xiaoxiaodeai1002
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的飞速发展,人类社会积累了大量的理论知识与实践经验。知识图谱以其高度凝练的语义网络结构,成为一种高效的知识表示手段。知识图谱为人们生活中的多个领域提供便利,包括搜索引擎、问答系统、医疗诊断等等。虽然知识图谱规模以指数级的速度增长,但仍然存在稀疏性与不完整性的问题,如何有效挖掘知识图谱的隐藏语义,推理出潜在事实是一个亟须解决的问题。目前深度学习在自然语言领域取得了突破性的进展,尤其在知识图谱推理这样的应用场景获得了更优异的性能,是未来知识推理模型的发展方向。本文围绕上下文与关系路径多源语义融合的问题进行深入研究,提出了一种基于多元语义神经网络的知识图谱推理模型,通过语义融合的方式,实现知识图谱推理。本文主要贡献如下:1.针对主流知识图谱推理模型存在利用信息类型单一的问题,提出一种多元语义深度神经网络(Mulit-semantic Deep Neural Network,MSNN)实现关系推理。利用信息传播网络与循环神经网络分别对实体上下文信息与关系路径特征进行建模,并利用注意力机制将两种语义融合,实现知识推理。实验结果表明MSNN模型在FB15k、FB15k-237、WN18、WN18RR、NELL995等五个数据集的MRR、MR、Hit@1、Hit@3指标上相较于当前主流方法取得了较好的效果,证明了使用两种语义信息可提升模型表达能力。2.针对传统信息传播网络中传播函数权重固定的局限性,本文在MSNN模型中提出一种基于卷积信息传播网络的实体上下文特征建模方案。利用卷积神经网络高效的特征建模能力,以可学习的方式计算传播函数中实体关系的权重,使得传播函数的表示更加灵活。实验结果表明在MRR、MR、Hit@1、Hit@3指标上基于卷积网络的传播函数权重计算方案均高于传统的求平均方案。3.为进一步提升MSNN网络的性能,本文设计了一种基于文本嵌入的关系向量初始化方案并以此提出了MSNN模型的改进方案TE-MSNN,以改进MSNN模型中初始化关系向量的表达能力,提升模型性能。通过文本表示生成、文本语义过滤、文本表示降维的方法获得关系文本的向量化表示,以此作为MSNN的初始化关系向量。4.为验证TE-MSNN(Text Enhanced-MSNN)方案的有效性,本文以NELL995数据集为基础构建新的关系文本增强数据集NELL995-text。从NELL系统的官网上爬取每个三元组中关系的描述文本与实体类型的描述,构建每个关系的描述文本。实验结果表明TE-MSNN在MRR、MR、Hit@1、Hit@3指标上与MSNN相比有了一定的提升。
其他文献
深度神经网络由于具有强大特征提取和表征的能力,已经在计算机视觉、自然语言处理、智能决策等方面展现了卓越的性能。近年来,深度神经网络的设计引起了研究人员的广泛关注,各种高性能和高效率的神经结构不断涌现。但是手工设计一个神经网络需要大量的专家经验和反复的实验验证。因此,神经结构搜索方法被提出来在给定的任务上自动设计神经结构。基于梯度的one-shot神经结构搜索方法在高效实现结构搜索的同时,还具有不错
在高压变电设备的放电检测、航空发动机结构无损检测等领域的超声波探测应用中,往往要求超声波传感器需要具备体积小、质量轻、前置无源、抗电磁干扰、耐高温高压的特性。本论文针对光纤MOEMS(Micro-Opto-Electro-Mechanical Systems)超声传感器的信号解调需求,研究了一种基于光纤EFPI(Extrinsic FabryPerot Interferomter)传感器的高速四通
非合作信号解析技术已广泛应用于电子信息对抗等领域。非合作的接收机通过这种技术利用截获信号取得发射机的一些信息,以实现破译敌方情报或干扰敌方通信等目的。在现代数字通信系统中,数据通常以帧为单位进行传输。合作方的接收端首先会采用适当的算法并结合帧结构的信息来获取帧同步。然而这些对于非合作的接收机来说是未知的,所以其需要利用截获信号对帧结构进行识别。在获取帧同步后,倘若非合作的接收机想要进一步获取数据部
对于室内环境三维模型构建,目前常规方法是使用三维激光扫描仪来实现,但是三维激光扫描仪不仅价格昂贵而且体积较为庞大,同时构建三维模型耗时较长。视觉同步定位与地图构建(SLAM)技术具有精度高、速度快、系统体积小的特点,本文对基于深度相机的视觉SLAM算法进行了深入研究学习,并将视觉SLAM技术结合建筑抹灰机器人应用于建筑室内环境建模,解决了建筑室内三维整体模型实时构建问题,并且对得到的三维模型进行后
生活在当下,神经网络对于我们而言一定算不上陌生。无论是作为学者还是工程师,在他们的研究中一定会发现神经网络的身影。医学领域、军事领域甚至金融领域均采用了神经网络技术,不难看出它具有很强的适用性。将耦合的网络模型同单一的网络模型进行比较可以发现,前者具有更高的生物可靠性,更贴近真实神经系统的组成。有关于这种模型的研究正在逐步展开,现在已有大量实验证实它能够高度概括大脑对信息的并行处理。另一方面,无论
当下,网络短视频、电商广告、新闻资讯等信息量迅猛增长,如何构建更精准、更个性化的推荐系统已成为各大电商平台、音视频门户网站关注的焦点。而推荐系统中最核心的部分在于其使用的推荐算法,算法的优劣直接影响推荐系统的好坏。虽然诸如协同过滤等传统推荐算法已经历了多年的发展,但面对当前越来越多的稀疏性与冷启动问题时,其较难以从根本上解决。而另一方面,由于近年来图神经网络的发展以及其与推荐系统交互图结构的高度契
基于位置服务(Location Based Services,LBS)在无人驾驶、智能交通、应急救援以及智慧城市等领域上发挥着十分重要的作用。对于室外环境,美国的GPS系统、欧洲的伽利略系统以及中国的北斗卫星系统已经可以提供很好的位置信息,由于卫星信号容易受到建筑物遮挡,这些成熟的定位系统在室内环境的定位性能不是十分理想。随着社会的发展,人们对室内定位的需求也日益增多,定位方案也从单一定位技术逐渐
近年来,电网事故在我国各个地区相继发生,这不仅会扰乱人们的正常生活,还会给国家经济带来不可估量的损失。为了减少电网事故的发生,需要对输电线运行状态进行有效监测。基于随机光纤激光器的点式光纤传感系统具有抗电磁干扰、信噪比高、长距离传感等优势,极其适合应用于电网系统中。然而,随着国家电网规模的扩张,如何进一步提升点式光纤传感系统的性能是今后需要解决的问题。本文在特种传感光纤光缆联合实验室的支持下将一种
声波是信息的重要载体,声波传感技术在石油管道泄漏、设备健康监测、医疗诊断等各个领域有巨大的应用需求。传统的声波传感器多为电子式声波传感器,而随着对光纤传感技术研究的深入,各种光纤声波传感器得到了快速发展。同电子式声波传感器相比,光纤声波传感器体积小、重量轻、检测灵敏度高、抗电磁干扰能力强,能够在极端恶劣环境下使用,并且,光纤较小的传输损耗使得光纤声波传感器能够实现高质量的遥测遥感。近年来,各种原理
现如今的移动设备端产生的应用日渐复杂,需要更强的计算能力来处理,移动边缘计算(MEC)为处理这种任务提供了有效的途径。在移动边缘计算中的任务的卸载和资源的分配问题一直是其中的关键问题。若能实时地做出正确的计算任务卸载决策,合理分配好网络资源和计算资源,对于提升移动边缘计算的服务性能,提高用户体验具有重要的意义。近几年来,强化学习技术不断发展,它在MEC中的应用备受关注。由于MEC场景下环境的不确定