基于注意力机制的神经网络事件抽取系统设计与实现

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:Orange_zz
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着社会的不断发展,网络上的文本信息量呈爆炸式增长。虽然这些丰富的信息能够增加用户获取所需知识的可能性,但却降低了用户获取有效信息的速度。为解决这些问题,许多学者开始致力于研究信息抽取,而事件作为信息的核心表现形式,也在这几年备受瞩目。事件抽取是将含有事件信息的非结构化文本转变成结构化的形式,分为事件检测和事件要素抽取两大任务,广泛应用在信息搜索、智能问答、机器摘要等领域,具有深刻研究意义。传统事件抽取方法基本都存在不能充分利用上下文信息、忽略关键特征等问题。因此,本文基于门控循环单元,并对其加入注意力机制、卷积层和Encoder-Decoder框架,进行了事件抽取系列研究和应用,具体工作及贡献有以下三个方面。(1)构建基于卷积门控循环单元的事件检测模型(ATT-Conv-BiGRU)。在特征选择上,本文不依赖词性标注和实体识别结果,结合文本词向量、实体类型信息构成上下文表示学习向量,以便于直接利用事件要素信息和候选触发词的关系;其次,利用双向门控循环单元网络提取句子级别特征,卷积操作提取词级别特征,以解决传统方法中由于存在同、近义词而造成的错误划分事件类别的问题;最后,将两种特征级联,作为使用黄金标准的注意力机制输出层的输入,通过softmax进行事件检测结果的预测。实验证明,该模型提高了事件检测的准确率和效率。(2)构建基于Encoder-Decoder框架的事件要素抽取模型(ATT-ED-BiGRU)。首先,本文在输入层选取了事件触发词类型、候选要素位置、词向量三部分构成文本向量;其次,本文在编码层、解码层分别使用双向和单向的门控循环单元网络捕获语义信息;最后,通过引入注意力层来捕获触发词和其余要素与候选要素之间的关系特征,解决了同一事件要素在不同事件句中代表不同角色时容易识别错误的问题,从而提高了要素抽取的准确率。(3)构建中文金融领域事件抽取系统。本文使用半自动标注工具和人工二次标注构建金融新闻语料库,并结合第三章的事件检测模型和第四章的事件要素抽取模型,设计并实现了一个基于C/S架构的金融领域新闻事件抽取系统;其次,本文还设计了迭代学习框架,以解决系统在实际应用中出现的难以进行域移植、语料库规模不够大等问题,提高了系统的可移植性和稳健性;最后,本文通过事件地图和事件时间轴功能进行事件抽取结果展示,使金融事件的记录更加系统化。
其他文献
语料库的建立与研究在国内起步较晚,而这门新兴学科正日益显示出其实用价值与研究价值,本文拟将作者对英国伯明翰大学语言研究中心与英国柯林思出版公司合作建立的COBUILD语料库的初步研究作一概述,希望能激起国内同行的兴趣,共同进行语料库的研究。
为实现煤炭工业“十一五”发展规划提出的优化煤炭布局,调控煤炭总量,建设大型煤炭基地,培育大型煤炭企业集团,整合改造中小型煤矿,建设资源节约型和环境友好型矿区的规划,各煤炭企
在目前市场背景下,出台投资体制改革方案,被市场普遍认为是加强和完善目前宏观调控的一项重要舉措,长期而言,对建立和完善社会主义市场经济体制也将至关重要。  一些分析人士指出,此次投资体制改革的核心之一就是要给企业放权,让企业自主地决定其投资的收益与风险,凡不属于公共投资项目,一律实行核准制和备案制,尽量减少行政干预。可以说,这是中国投资体制改革的一大重要创新。但是,这并不意味着政府对企业的自主投资“
<正> 冬瓜子为临床常用中药之一。性味甘寒,有清热化痰、除湿排脓、止带的功效。炒后有醒脾开胃之功。我省炮制规范法定处方应配清炒品,以炒至淡黄色为度。在实际炮制过程中,
研究如何满足人民对美好健康生活的需求对于构建健康中国具有战略意义。推动全民健身与全民健康融合是中央政府提高全国人民身体素质和健康水平的重要举措,但是其具体融合策
“整本书阅读与研讨”是《普通高中语文课程标准(2017版)》中的第一个学习任务群。最近,整本书阅读这个话题广受人们关注,越来越多的人对这个话题进行研究,通过对当前高中语文阅读的教学状况进行研究以及对高中名著阅读教学的状况进行分析发现,教师们认识到了名著阅读教学对学生们的重要性,提高了对名著阅读教学的重视程度,对整本书阅读教学的重视程度也提高了,但是在教学过程中,教师的教学方法不够系统,学生希望通过
<正> 本文想从宏观角度,探讨中国古典散文写作的嬗变情况及其规律,或许对于我们今天的散文写作和散文教学有某些借鉴作用。当然这里所说的散文是广义的散文,包含着韵文之外的一切散行单句的文章在内。这与我们今天所说的文学散文是有区别的。
[摘要]文章系统论述了“掌上图书馆”软件的开发背景、开发环境和部署平台,从软件工程的角度對该软件的功能进行分析,并对其主要功能进行了简要介绍,之后论述了该软件的创新之处。  [关键词]Android系统;云平台;掌上图书馆  [DOI]1013939/jcnkizgsc201619125  1“掌上图书馆”软件的开发背景  “掌上图书馆”又可称为“手机图书馆”“无线图书馆”或者“移动图书馆”,其应
目的:探讨肝动脉化疗栓塞术(TACE)联合微波消融(MWA)方案与单纯TACE方案治疗大肝癌(LHC)患者的临床疗效分析远期生存,同时进一步研究患者预后影响因素,为临床治疗提供更多参考。方法:将2014年8月2016年8月我院收治的78例LHC患者作为研究对象,随机分为研究组和对照组。对照组患者采用单纯TACE方案治疗,以Seldinger法穿刺股动脉,成功后进行诊断性肝动脉造影,明确肿瘤位置、大
摘要:历史呈现责任,学生成长需要责任教育;现实呼唤责任,学校发展必须进行责任教育;未来需要责任,社会进步渴求责任教育。构建责任文化,营造责任氛围。宣讲责任故事,学习责任名言。落实责任目标,践行责任承诺。弘扬责任精神,强化责任岗位。  关键词:小学;责任教育;策略  中图分类号:G631 文献标志码:A 文章编号:1674-9324(2014)07-0270-02  近年来,学校以培养师生的责任心,