【摘 要】
:
随着大数据时代的来临,海量信息以半结构化或非结构化的形式呈现给用户,如何通过文本深层分析模型向用户提供精准而有价值的信息成为研究热点。关系抽取作为信息抽取的重要子任务之一,能够对更小粒度的信息进行语义分析,为更多任务提供基础数据支持,具有较高研究价值。本文在LSTM(Long-term and Shor-term Memory Network,LSTM)模型的基础上,基于注意力机制和图卷积技术设计
论文部分内容阅读
随着大数据时代的来临,海量信息以半结构化或非结构化的形式呈现给用户,如何通过文本深层分析模型向用户提供精准而有价值的信息成为研究热点。关系抽取作为信息抽取的重要子任务之一,能够对更小粒度的信息进行语义分析,为更多任务提供基础数据支持,具有较高研究价值。本文在LSTM(Long-term and Shor-term Memory Network,LSTM)模型的基础上,基于注意力机制和图卷积技术设计了两种不同的关系抽取方法,从不同的角度对模型结构进行改进。本文的主要研究内容和创新点如下:1.提出一种基于双向长短期记忆网络和注意力机制的图卷积关系抽取模型(Attention LSTM-GCN,AL-GCN),在模型高层添加注意力机制层,结合LSTM编码器、GCN(Graph Convolutional Network,GCN)编码器的输出和句子的全局位置特征构建新的句级特征表示。由于不同的模型模块可以抽取样本不同层次的信息,引入注意力机制可以通过合理的权重分配策略,使模型关注对关系抽取贡献度更高的单词。实验结果表明,与传统机器学习方法相比,所提方法可以对长短期记忆网络和图卷积网络抽取出的不同层次信息进行有效融合。2.提出一种基于自适应图卷积神经网络的关系抽取模型(Adaptive graph convolutional neural network,A-GCN)来学习依存句法树包含的丰富语法结构关系。先前很多工作通过简单的使用0,1邻接矩阵引入句法依存树的结构信息,未有效考虑节点间不同的依存关系对关系抽取的影响。A-GCN使用节点间依存关系、节点向量表示等特征建模可学习的邻接矩阵,通过对邻接矩阵的建模来捕获不同依存关系在节点进行特征信息传播时不同的贡献度。实验结果表明,与使用简单0,1邻接矩阵的图卷积关系抽取模型相比,A-GCN模型能学习更丰富的语法特征,可以有效改善模型在关系抽取任务上的准确率。
其他文献
选取开封清明上河园作为案例地,通过收集马蜂窝、携程等五大知名旅游网站对清明上河园的正、负面评价,以ROSTCM6软件为分析工具,采用网络文本分析方法,用扎根理论进行归纳,提取游客对于景区的正、负面情绪感知的因素,进行对比分析,发现旅游资源、旅游体验以及旅游消费是最容易改进游客体验满意度的感知因素,旅游资源是提升满意度的核心因素,旅游体验与旅游消费是消除不满与转化为提升满意度的重要因素。最后,基于旅
在我国,随着炼焦、钢铁和电力等行业的不断发展,现代化建设对每个行业都提出了更高的要求。对于煤炭行业,“绿色能源”的提出和推行,对煤炭质量和煤炭资源的优化利用提出更高的要求。随着人工智能技术的发展,实现煤质指标稳定、精确的在线检测对煤炭行业有很重大的意义。针对传统实验室化验耗时长的问题,市面上出现一些基于微波技术、中子活化技术、X射线荧光光谱法等原理研发的煤质分析仪,但是由于各自存在的不足和使用条件
人类社会发展,工业文明进步,人类用能大幅增长,各类形式能源过度开发利用,尤其化石能源,日渐消耗殆尽,对地球环境及生态造成极度破坏。化石能源的来源,是远古时有机生物分解而成,属不可再生资源,因而人类不得不寻求开发可再生的清洁能源——太阳能。光伏发电技术近几十年,逐步成为了清洁能源发展的重点,尤其在2000年后,在我国政策导向下,如雨后春笋般长足发展,解决了诸多现实中的能源供给结构的问题,同时也一定程
在全球气候变暖的背景下,农业旱灾对国民经济发展的危害日益增大,威胁我国的粮食安全和生态安全。华北平原是我国干旱范围最大、程度最严重、持续时间最长的地区。地表温度(Land Surface Temperature,LST)是农业旱灾遥感监测的重要参数,通过利用热红外遥感准确获取地表温度信息,是提升农业干旱监测和预警水平的重要基础,对于促进我国农业干旱减灾、科技保障能力建设、维护我国粮食安全生产,都有
21世纪互联网时代后,信息传播的需求大幅增加,光纤作为成熟快捷的信息传递媒介被大量应用于不同领域中。伴随着需求的激增,光纤产量势必更进一步。论文研究了光纤端面切割、光纤耦合通光检测、机器视觉检测的国内外研究现状,旨在设计生产一台替代人工,提高长光纤耦合检测效率的机器检测设备,并验证其可行性,以满足企业对自动化检测系统的迫切需求。论文对光纤脆断性原理进行了相应研究,设计光纤切割方式,即使用刀具在光纤
网络时代,网络游记已经成为游客了解目的地形象的重要渠道。本文以携程网游记为数据来源,就游客对山东旅游感知形象进行分析,并提出提升山东省旅游感知形象的具体建议。
论文在对第四系岩性、颜色、含水性、电性、地层厚度、富水性等综合研究后,划分了第四系松散层及第四系下组含隔水层,并深入研究了第四系下组底部含水层疏干的可能性及留设防砂安全煤柱的可行性;运用数值分析的方法模拟演示了鲍店薄基岩区3煤层分层开采、网下综放开采和综放开采三种条件下覆岩的变形破坏特征;并且查阅相关规程、规范及矿区经验公式等计算出垮落带高度,并对防砂安全煤岩柱留设尺寸进行了求解。论文取得的主要结
工业互联网,移动互联网,物联网和泛在网等新兴词语的普及与热门程度无不代表着广大用户对第五代移动通信(5G)大带宽、高可靠、低时延、强覆盖、高质量的网络建设要求,以及完美体验需求的迫切和向往。面对用户需求以及市面上各种应用的层出不穷,业务挑战的压力也越来越大,但是,这却一直是推动了5G通信系统的迭代优化升级,不断完善的动力。5G关键技术之一的超密集网络(Ultra Dense Network,UDN