基于深度神经网络的实体关系联合抽取方法研究

来源 :辽宁工程技术大学 | 被引量 : 0次 | 上传用户:xiuxiumumu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
知识图谱的发展使大规模的无规则数据得以高效的管理,然而其构建的准确性与完整性仍有待完善。实体关系抽取作为构建知识图谱的关键环节,其性能直接影响知识图谱的效果,对知识图谱的构建、扩充以及下游任务的实施具有重要的意义。目前,联合抽取方法作为实体关系抽取领域的研究热点,可以在一定程度上避免流水线抽取方法中存在的误差积累和交互缺失问题,但仍然无法解决关系重叠、语义特征表达欠缺和模型依赖性不足的问题。针对上述问题,提出一种基于深度神经网络的实体关系联合抽取模型BAPRE(Relational Extraction model based on BERT,Attention and Pointer Annotation)。首先,在词向量表示阶段,使用预训练语言模型BERT生成动态词向量,解决静态词向量无法避免的多义词问题,获取潜在的深层表征信息;然后,在特征提取阶段,引入多头注意力机制多维度捕获词向量间的依赖关系,并通过权重捕获重点信息,从而得到更加丰富的语义特征;最后,在标签预测阶段,将实体关系建模为主语到宾语的映射函数,利用单层指针标记主语,并通过改进层归一化网络将主语特征与语句向量进行特征融合,以此增强模型的依赖性,再采用多层指针在融合得到的特征向量中进行不同关系条件下的宾语抽取,从而解决实体关系抽取中的关系重叠问题,提高实体关系三元组的抽取效果。论文选用公开数据集NYT和Web NLG,将Novel Tagging、Copy RE、Graph Rel、Cas Rel等几个基线模型作为对比模型,分别进行了整体实验、消融实验、三元组重叠实验、不同复杂度下的模型性能对比实验以及调参实验,其中BAPRE的整体实验结果相比目前最优的基线模型在两个数据集上的F1值分别提高了2.5%和0.9%,准确率和召回率也均优于其他几个基线对比模型。实验结果表明,BAPRE能够在一定程度上解决三元组重叠问题,并且能够提取到丰富的语义特征信息,进而有效提升三元组的关系抽取性能。该论文有图26幅,表12个,参考文献59篇。
其他文献
为满足社会发展需求,实现电力行业信息化转变,国家电网公司提出建设以信息化、数字化等特征的智慧电网发展目标。但是,目前电网基础设施输电铁塔的台账信息统计方法存在精度低、速度慢等问题。亟需一种快速、高精度的输电铁塔检测方法来促进智慧电网的发展。其次,当输电铁塔受人为因素或自然灾害而损坏时,常常造成铁塔倒塌、铁塔倾斜等严重故障,导致大面积停电,进而造成巨大的经济损失。因此,在受灾应急响应下对输电铁塔所在
学位
随着材料应用领域的不断拓展,陶瓷有很多方面的优良的性能,如强度高、耐腐蚀性能好等优点,并且适用在航天、汽车等机械工业领域范围。传统上,陶瓷成型工艺已发展的相对稳定,但随着社会的发展越来越迅速,传统成型工艺很难满足复杂化、多产量化、高精度化的产品制造的响应,很大程度上对高性能陶瓷材料的开发研究与应用起到了限制发展。为解决这一问题,相关学者们开始研究陶瓷3D打印技术,目前最具发展前景的是挤出成型技术,
学位
学位
近年来,我国能源消费快速增长,不同类别能源比例持续优化,但不论如何优化我国的主体能源仍旧占主体地位,在进行煤炭资源的开发过程中,保证煤矿井下的安全具有重要的意义,掏槽机一种能替代人工掏槽的设备在煤矿井下作用于建立具有防水、防天然气、防火作用的密闭墙的砌筑工作中,能够使煤矿井下的安全性得到提升。在掏槽机工作时,掏槽机截割头作用于截割煤岩表面产生的冲击载荷使掏槽机截割头产生振动,而这种振动影响掏槽机截
学位
掘进机一直都是煤矿井下巷道开采掘进的重要机械,为了加快煤矿产业的发展和矿山机械的自动化,掘进机自动化和智能化成为了目前世界各国的研究热点。井下巷道开采过程中,灰尘多可视度低,并且充满瓦斯和粉尘,作业环境潮湿,这使得井下煤矿掘进作业困难,工人工作量大,安全性低。目前大多数的煤矿井下掘进作业都是人工操作掘进机,控制准确度不高,经常会导致欠挖和超挖的现象,造成煤矿产量不足或者浪费,因此对掘进机自动截割断
学位
利用激光熔覆技术在40CrNiMoA钢表面制备Ni60单道熔覆层,然后对Ni60单道熔覆层进行微观组织观察,探究各工艺参数对熔覆层显微组织的影响规律,通过正交方法选出最佳参数进行多道熔覆实验,向Ni60合金粉末中添加碳化钨粉末形成三组对照试验分别为Ni60,Ni60+15%WC,Ni60+25%WC,在多道熔覆完成之后利用线切割将试件切割成分析小样,然后对试件表面用砂纸进行打磨,磨至表面无缝隙裂纹
学位
钛及钛合金因为具有在高温下保持高强度的性能和卓越的耐腐蚀性而成为广泛运用在高端制造业的金属材料。近些年越来越多的科研工作者们将钛及其合金应用于军事、民生和能源领域。同时,钛合金因其自身较差的加工性能被归类为难加工材料,限制了钛合金的使用和发展。本文以某型航空器件尾翼骨架所用铸造钛合金(Ti-6Al-4V)作为研究对象,为提高其高速切削加工表面的完整性及加工效率,构建高速切削实验平台,利用响应曲面法
学位
地面沉降是一种缓慢性的、长期性的地质灾害,滨海城市经常遭受由于地面沉降引起的海水入侵的影响,危害当地的生产和生活安全,给城市规划建设带来了未知的隐患和经济损失。因此,对沿海城市地表沉降实时监测以及准确的预测是十分有必要的,传统的水准测量等地表沉降监测方法易受空间和时间的影响,且费时费力。近些年发展的In SAR技术不受天气因素的影响,能昼夜进行工作,克服了传统沉降监测方法的缺陷。本文针对可以获取到
学位
针对瓦斯涌出控制问题以及采煤工作组中采煤机与刮板输送机联合控制问题,本文分析了采煤工作组中采煤机与刮板输送机的协同运动关系,建立基于瓦斯浓度的采煤工作组及其采煤机与刮板输送机的联动PID控制Simulink模型,对比分析三种智能PID控制算法对Simulink模型的控制效果,实现了采煤机与刮板输送机对瓦斯浓度的自适应智能控制。其主要内容如下:(1)阐述了采煤机与刮板输送机的结构、工作原理以及工作特
学位
瓦斯抽放泵作为煤矿重要的抽放设备,其运行状况直接影响煤矿作业的安全水平。因此,为保证瓦斯抽放作业的安全平稳运行,开展瓦斯抽放泵早期故障监测研究,实现第一时间发现并解决故障,保证瓦斯抽放作业效率和整体安全运行具有重要意义。现阶段,专用于瓦斯抽放泵故障监测的方法较少,基本无法实现瓦斯抽放泵故障的早期发现和快速处理。论文在现有理论方法的基础上,开发基于DWCI-CNN的瓦斯抽放泵故障监测方法,并搭建实验
学位