融合门控卷积和句子关联性的远程监督关系抽取方法研究

来源 :北京交通大学 | 被引量 : 0次 | 上传用户:kobe20060121
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
关系抽取是自然语言处理的关键基础任务之一,其目的是从自然语言文本中识别出两个实体间所存在的语义关系。目前关系抽取方法主要分为有监督、无监督和远程监督三种,其中,远程监督基于“包含相同实体对的句子都在表述实体对在知识库中的对应关系”的假设,解决了人工标注语料费时费力的问题,成为关系抽取的重要研究方向之一。虽然远程监督可以快速获取大规模语料,但是却不可避免的产生错误标注问题。多示例学习的引入和深度学习的应用虽然在一定程度上解决了远程监督的强假设带来的问题,但是已有研究方法仍存在一些不足:1)缺乏过滤句内噪声的有效手段。句中并非所有单词都与实体相关,不相关单词显然会产生噪声特征。虽然引入依存句法树可以在一定程度上缓解此问题,却破坏了句子的结构信息和完整性;2)忽略了包内句子间的关联性。由于包内句子包含相同的实体关系对,所以它们或多或少存在一定的关联。而目前大多数研究却忽略了这一点。针对以上问题,本文提出了融合门控机制和句子关联性的远程监督关系抽取模型,使用门控机制对句内不相关特征进行过滤,同时通过建模句子关联性来分配更合理的句子权重,以此来获得更有效的包级别特征表示,进而提升关系抽取性能。本文的主要创新点和贡献包括以下几个方面:(1)提出融合门控机制的关系抽取方法。针对远程监督句内特征的噪声问题,本文定义了一种新的卷积运算作为门控机制,进行句内特征的过滤,同时引入软标签机制,作为监督信号加入门控机制内,使模型更关注与实体相关的特征,避免远程监督中噪声标签对特征提取的负面影响。(2)在分段池化层引入注意力机制。为分段池化后的向量分配不同的权重,使得模型重点关注包含较多有效特征的部分,从而在语义层面对句子中的特征进行了过滤,进一步避免了不相关特征对模型的负面影响。此外,本文同样将软标签机制应用到注意力机制中,使模型更关注实体本身,而非其他部分。(3)针对现有研究忽略包内句子间的关联性的问题,提出基于句子关联性的远程监督关系抽取方法。通过对句子关联性进行建模,为包内句子分配合理的权重,以此获得包级别特征表示。另外,为了得到更优的包级别特征,本文在测试阶段对句子中最有效的特征进行了整合,在句子层面上实现了不相关特征的过滤。本文在公开的数据集上进行实验,实验结果表明,本文提出的模型性能明显优于所有基线模型,取得了0.49的AUC值。此外,本文通过设置对比实验,验证了门控机制对句内噪声特征过滤的有效性,以及融合句子关联性的重要性和有效性。
其他文献
利用安全态势评估技术管理云计算系统的安全状态是云计算产业的重大发展趋势。云计算技术因其资源共享、弹性配置、按需服务等特点而得以快速和广泛发展,成为当今社会的重要
随着有机-无机杂化钙钛矿在太阳能电池领域大放异彩,其优异的光电特性也使得人们将其应用于光电探测器中,基于钙钛矿材料的光电探测器的研究已成为当下的热门领域之一。暗电流是限制光电探测器性能的主要因素,因此,通过合适的策略抑制暗电流,是提升器件性能的关键。本论文围绕降低p-i-n型α-FAPbI_3薄膜光电探测器的暗电流这一优化方向,研究了引入界面修饰层与空穴传输层改性对器件性能的影响,主要内容包括两部
土壤侵蚀会带来严重的水旱灾害,对人类社会的可持续发展造成了极大的威胁。平江流域地处赣江上游红壤区,极易发生土壤侵蚀,而赣江上游的环境稳定与否,直接影响着赣江中下游的生态稳定和经济发展。本文根据平江流域内的9个雨量站点1989—2018年连续30年的降雨过程数据,在对各降雨侵蚀力简易算法的适用性进行对比及侵蚀性次降雨特征分析的基础上,提出了赣江上游利用日降雨量计算月降雨侵蚀力的简易算法;对流域内各时
本文主要研究带有周期位势的非局部椭圆型方程(组)解的存在性及其性质问题。该方程(组)源自于基本量子化学中的Hartree或Hartree-Fock极小化过程,描述了电子与静态核相互作用
随着智能家居以及分布式光伏发电的发展和普及,通过需求侧主动参与电力系统调度,加强电网侧和需求侧的双向信息互动。家庭能量管理系统(home energy management systern,HEMS)不但可以提升用户式分布式能源的使用率,而且很大程度上减少了居民的电费;加强需求侧智能化用电,对电网起到了削峰填谷的作用,进一步保证了电网的运行稳定性。但目前电力市场对需求侧负荷参与系统调度的性能与容量
由于我国二元城乡经济结构的存在,在过去几十年的发展中,农村发展速度缓慢。自1978年改革开放以来,城市快速发展得益于农村的牺牲和贡献,导致农村发展缓慢,农民生活水平不高
随着深井、超深井、大斜度井等数量的增多,钻遇硬质地层、复杂地层逐渐增加,石油天然气行业发展出以液动冲击器为核心的旋转冲击钻井技术,工作原理是将液动冲击器的单次冲击
乡村振兴必然要求农村金融的充分发展,我国农业经营主体由于缺乏有效的财产而无法提供抵押物,受到了金融机构严重的信贷约束,制约了农村金融的发展。2016年中国人民银行印发
熟知英语教学史的人都知道,二十世纪是英语教学法出现最多的世纪。在理论上,英语教学法已经形成一门完善的学科。在实践中,它也有一支一直在不断扩大的实践队伍。其理论研究的成果在指导英语教学实践方面起着重要的作用。英语教学法理论的不断变换促进了英语教学法的变换。然而,在二十世纪末,美国著名应用语言学家库玛提出,外语教学已经进入后方法时代。他认为单纯的使用某一种外语教学法进行外语教学已经不符合时代的要求。为
随着社会科学的进步,土木工程领域也在发生巨变,涌现出各种大型复杂的结构,由于外界环境的复杂和使用过程中各种人为因素,结构在服役过程中不可避免会出现损伤。土木工程结构较其他工程结构存在尺寸大,质量重的特点,若不能及时对结构损伤进行检测和维护,当损伤累积到一定程度会导致其丧失服务功能,严重时会给人民生命和财产带来巨大伤害,所以研究结构损伤识别方法,对减少工程灾害的发生和降低维护费用具有非常重要的理论和