基于注意力池化机制和额外知识的事实型知识问答研究

来源 :浙江大学 | 被引量 : 0次 | 上传用户:JK0803fengwei
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网的高速发展以及智能手机的快速普及,数据资源呈爆炸性增长,如何在海量数据中找到自己需要的有用信息成为用户关心的问题。传统的搜索引擎基于关键词匹配技术将相关的网页返回给用户,然而,该检索技术一方面只是基于语言的浅层匹配忽略了深层的语义信息,未能理解用户的真正意图,另一方面返回的页面列表包含信息众多还需要用户进一步筛选,耗时耗力。为解决该问题,智能知识问答系统被提出,旨在利用信息检索、知识图谱和阅读理解等技术来直接回答用户的问题。近年来,由于GPU带来的运算能力的大幅度提高以及数据量的增大,深度学习在语音、图像和自然语言处理领域均有了出色的表现。本文提出了端到端的事实型实体知识智能问答框架,基于用户问题采取检索技术搜索到相关的文本段落,并利用神经网络技术在检索到的文档中抽取出事实型答案。同时,为提升自动问答的性能,我们提出了注意力池化机制和引入额外知识的优化机制。论文的主要工作如下:1)实现了端到端的事实型知识智能问答框架。包括信息检索和答案抽取模块,并比较了检索模块中的多种相似度评分机制。基于相似度计算的检索模型能够减少答案句子候选集的规模,获取的候选文本不仅为后续的抽取模型提供数据来源,其较小的候选规模还可提高抽取的准确率,减少时间损耗等,是后续答案抽取模型的基础。2)提出了基于注意力池化机制的答案抽取优化模型。答案抽取过程可建模为阅读理解任务,因此,我们在通用阅读理解框架的基础上,提出了注意力池化机制优化算法,引入了全局和局部注意力,提升了答案抽取的准确性。3)提出了基于两层注意力模型的额外知识引入机制,能将额外知识引入到通用阅读理解框架中。
其他文献
少数民族预科学生作为高校大学生群体中的特殊群体,其价值观念、行为方式、思想状况等有其特殊表现。在新形势下,如何从少数民族预科学生特殊性出发,探索出思想政治教育工作行之
优秀的传统文化,是维系民族精神的生命线。当人们的消费由物质需求转向精神满足转移时,现代商业设计中以民族文化为本位的市场战略思想日趋重要。每个国家、民族都会有自己独
目的:从黏膜免疫角度探讨“肺合大肠”理论的具体相关途径,丰富“肺合大肠”理论的内涵,为溃疡性结肠炎的治疗,提供新的思路。方法:以DSS致小鼠溃疡性结肠炎为动物模型,检测
论文从经济和法相结合的角度,首次就中国证券市场的内幕交易作了系统性研究,构筑了一个新颖而全面的研究框架和体系。一、首先对内幕交易的概念作了明确,以内幕信息为中心,对内幕
随着我国经济的高速发展,微电子技术、计算机技术和自动控制技术也得到了迅速发展,交流变频调速技术已经进入一个崭新的时代,其应用越来越广。而电梯作为现代高层建筑的垂直交通
JL0911株犬细小病毒是由军事兽医研究所流行病与病毒病防控技术实验室分离得到的一株新型犬细小病毒,其主要抗原位点上的氨基酸序列较国内先前分离到的其他株有较大差异,不能
利用数码钢琴进行幼教专业的钢琴教授是一种全新的教育模式,与传统幼教钢琴教授方式相比,数码钢琴教学具有效率高、方式灵活、授课集中等优点,这种教学模式的出现极大地促进
<正> 《伤寒论》共载方112首,其中应用大枣者40首,占总数的35.8%,其使用频率仅在甘草、桂枝之后位居第三,可见先师仲景十分重视大枣的作用。《神农本草经》曰:大枣为上品,有“
目的 : 确定阴茎系带旁丘疹的独立性及非性病性。方法 : 应用临床观察、临床试验、多种病原性检测、组织病理、免疫组化、分子生物学及电镜检查等方法。结果 : 本病好发于