基于注意力机制的答案选择排序研究

来源 :北方工业大学 | 被引量 : 1次 | 上传用户:ljq529632883
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
搜索引擎的使用方便了人们的生活,但其查询结果仍需要人工筛选。给定一个问题,如何精准地获取正确答案显得至关重要。答案选择排序是解决该问题的一个切入点,其关键就是问题答案句子之间的语义相似度计算。在语义相似度计算方法一定的条件下,问题答案句子之间的语义相似度主要取决于问题答案句子内部的语法语义信息以及问题答案句子之间的语义信息。本课题基于语义相关度距离概念假设,构建新的答案选择排序模型,并且从以上两个方面提升模型性能。本课题研究的主要贡献如下:1.提出了问题答案句子语义相关度距离的概念假设,详细诠释了如何将候选答案集合中的正确答案和错误答案区分开,从而把正确答案选择出来。然后,依据该理论构建了新的答案选择排序模型。2.针对答案选择排序任务,使用统计和深度学习相结合的方法提取句子词性特征。先使用深度学习模型进行句子上下文语义捕获,再使用统计模型进行标注并解决未登录词的标注问题。然后通过集成两种模型的优势进行高效地词性特征提取,并进行实验性能验证。最后将问题答案句子词性特征与排序模型融合,增强问题答案句子内部语法语义信息。3.通过词性与原始语料融合后的语义引入注意力机制。区别于针对原始语料或者问题答案句子某一特征进行的注意力矩阵构造等已有的注意力使用方法,本文先将词性与原始语料进行融合,再运用融合后的向量构造注意力矩阵,进而融合到排序模型之中,增强问题答案句子之间的语义信息。基于以上研究,本文排序模型在NLPCC 2017 DBQA问答数据集进行实验。结果表明,本文基线排序模型融合词性和注意力之后,其MAP、MRR和ACC@1三个性能指标分别达到79.34%、79.42%和70.13%,明显高于其他排序模型的性能,从而验证了本课题排序模型理论假设的正确性及模型的合理性、有效性和先进性。
其他文献
乡镇是我国最基层的行政机构,大量的基础性工作都在乡镇,在基层,基层工作是我国社会管理工作的重中之重。国家大政方针的落实,改革任务的推进与实现,很多都要靠乡镇干部去落
本文研究内容属于Brunn-Minkowski理论和Lp-Brunn-Minkowski理论,主要研究了Blaschke-Minkowski同态的Busemann-Petty问题、Lp-Blaschke-Minkowski同态的若干对偶仿射表面积不等式、i次Lp径向Blaschke-Minkowski同态的BusemannPetty问题、复空间中Blaschke-Minkowski同态的相关不等式
湿地植物对沿海生态环境的构建和保护都起到至关重要的作用,并为海洋生物和水生物提供栖息环境、美化生态景观以及通过对波浪的消减作用从而保护沿海硬质堤。海三棱藨草(Scir
我国是一个地震灾害严重的国家,地震的超强破坏性给灾区人民的生命和财产带来极大的威胁。多次的震后应急救援结果显示,地震灾后及时的应急救援能够有效降低地震灾害带来的损失,在以往的多次地震灾害中发挥至关重要的作用。然而,由于地震对通讯设施和道路交通的损毁,救援中心很难获取灾区的音频、视频、定位和时间等信息。本文设计了一种可以应用在应急救援装备上的融合业务处理系统,能够配合救援装备将灾区的视频图像、音频、
研究目的:当今社会,由于人们在日常生活中摄入大量激素与酒精等物质,然而这些物质会在人们体内逐渐的汇集凝聚,而当这些物质随着血液流动作用到骨头上时,这些物质会随着人类
复杂结构丛式井是可以大幅度提高油气井产量和最终采收率的前沿技术,而随钻防碰测量系统是保证复杂结构井安全钻进的关键技术之一。本文围绕基于大功率电流励磁法的随钻防碰
在对全域旅游视角下旅游物流出现的新业态进行分析基础上,指出了该变化对城市区域旅游物流公共运营管理服务平台提出的三方面新要求,确立了建设城市旅游物流云服务体系架构的
目的:阐明沈阳某师范院校拟考取教师资格证的大学生群体应对方式现状,从人口统计学、健康状况、公正信念、个体情绪、自身态度和学习动力等方面,全面分析应对方式相关影响因
随着文明社会的发展,收集利用与自然人相关信息的现象一直存在。在互联网尚未普及、技术未得到充分发展的年代,只要设定相应的法律规则,就可以在很大程度上防止信息的滥用。
随着我国经济建设的持续发展,城市化进程不断加快,很多化工厂都面临搬迁。化工厂搬迁遗留下的旧址大多存在各种污染问题,而挥发性有机(VOCs)污染作为主要污染类型之一,由于其不仅具有挥发性,而且还具有比较高的刺激性和毒性,为旧址后期的开发利用造成了很大的困扰。镇江某化工厂旧址面临开发,因污染问题需进行异位土体修复,土体修复过程采用了水泥土工艺,水泥土因其工艺特性,受环境影响较大,考虑到本次污染的主要类