基于多源协同注意力网络的复合型问题生成

来源 :浙江大学 | 被引量 : 0次 | 上传用户:slzj118
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
问题生成是自然语言处理领域中的一个任务,在对话系统、教育及对问答数据集的扩充里都扮演了重要的角色。如今大量知识库的建立使得问题生成的研究变得更加热门,也使得生成问题的质量变得越来越高。本文为解决从知识库中自动生成复合型问题这一任务,提出了一种基于多源协同注意力机制的神经网络模型。在之前的工作中,有基于单个主谓宾三元组来生成问题的方法。但是在本文课题中是需要对多个三元组里的实体之间的关系进行建模,然后可以输出包含多个实体的问题即复合型问题。如果使用基于模板的方法,那么可能会受限于灵活性不足这一缺点,并且需要大量的人力来设计良好的模板,从而提高生成问题的质量。而基于简单神经网络模型的方法也不足以解决本文课题,因为本文中的复合型问题的语言结构和模式是复杂和多样的。因此本文提出了基于多源协同注意力机制的编码器—解码器网络。其中编码器采用了一个统一的双向长短期记忆网络和协同注意力机制,对多个三元组组成的文本序列分别进行编码。而解码器采用分层注意力机制来融合编码器的输出以生成复合型问题。与此同时,本文还引入了关注答案的解码模块,以减少生成问题的疑问类型与答案不匹配的现象。本文在最近发布的FreebaseQA数据集上进行了充分的实验,以简单的端到端的基准模型和本文所提模型的变种作对比。相较于无注意力机制的序列到序列的基准模型(K2Q-RNN),本文所提模型BLEU-4得分提升81.9%,ROUGE-L得分提升21.1%,Dist-1得分提升24.4%,Dist-2得分提升102.7%,Ent-4得分提升18.8%,可回答性得分提升88.2%,忠实性得分提升77.9%,自然性得分提升34.4%,丰富性得分提升63.9%。相较于去除关注答案的解码模块的模型变种(MCN),本文所提模型使得生成问题的疑问类型召回率平均提升3.4%,其中对于where和how类型的召回率提升高达13.3%和9.8%。
其他文献
通过进行炼钢工序石灰块末在线分离技术的开发与应用,转炉炼钢有效石灰投入量明显上升,转炉冶炼的脱硫脱磷效果也随之上升,因磷、硫成分不合格造成的出格炉数下降1炉次/月,石灰粉
《单片机控制技术》课程是高职电气自动化设备安装与维修专业的核心课程,本文针对《单片机控制技术》一体化教学改革的现状,对一体化教学改革过程中出现的问题进行了具体分析
皮特兰猪原产于比利时,以非常突出的高瘦肉率闻名于世。在所有知名品种中,以瘦肉率最高、肌肉最丰满,”双肌”体型最典型一具有发达的背膘肌和腿肉。皮特兰猪于1994年引入我国,在
热塑性硫化胶(TPV)集简单物理共混和化学反应于一身,因具有常温下的高弹性和高温下的热塑性而受到人们的广泛关注。但弹性体的引入导致TPV力学性能的不均衡限制了TPV的实际应用
随着建筑行业的快速发展,工民建施工企业逐渐增多,企业能否不断发展壮大在日益激烈的市场竞争中处于不败的地位,是工民建施工企业普遍关心的还踢。企业要想发展壮大关键在于
本文结合某高铁车站站房钢结构提升与卸载的施工过程,进行仿真模拟计算,得到提升和卸载过程主体结构和辅助结构的内力、变形等参数。同时,结合计算结果对实际施工过程进行监
减刑案件涉及执行机关的提请、人民法院的审理以及贯彻始终的人民检察院监督,减刑案件实现诉讼化办理模式的前提之一是检察机关减刑监督成为"案件"。当前模式下的减刑监督只
简要内容:浴盐含有人体所需的多重微量元素,对肌肤当然大有裨益,其添加的精油成分还可补充肌肤营养,使肌肤更加健康富有光泽。在使用浴盐前,要做个简单的皮肤测试:在手臂内侧
目的探讨过度机械通气致肺损伤后,炎症因子TNF-α、IL-1β及NF-κBp65在肺组织中不同时间表达的变化规律。方法将51只雄性新西兰大白兔分为正常组、对照组、实验组。利用呼吸
以往的饮食文化研究大多以优化的目光来看待中国的饮食生活,很少有人从反面来抨击中国饮食的弊端。李波先生是一个喜欢逆向评论的作家,他对饮食文化的看法便与饮食学界大相径庭