基于自注意力和门控机制的答案选择模型

来源 :浙江理工大学学报(自然科学版) | 被引量 : 0次 | 上传用户:chungpy
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对现有答案选择方法语义特征提取不充分和准确性差的问题,引入自注意力和门控机制,提出了一种答案选择模型.该模型首先在问题和答案文本内部利用层叠自注意力进行向量表示,并在自注意力模块中让单词和位置分开进行多头注意力;然后将答案句通过卷积神经网络(Convolutional neural network,CNN)得到的向量表示输入注意力层,根据问题生成与问题相关的答案表示,并通过门控机制融合两种表示;最后计算问题和答案文本的相关性分数,得到候选答案的排名和标注.结果 表明:该模型与双向长短时记忆网络模型、自注意力模型和基于注意力的双向长短时记忆网络模型相比,在WebMedQA数据集上平均倒数排名分数分别提高了8.37%、4.79%和2.03%,预测答案正确率也有提高.这表明提出的模型能够捕获更丰富的语义信息,有效提升了答案选择的性能.
其他文献
在庆祝中国共产党成立100周年之际,我们迎来了一年一度的端午佳节.近日,由青岛市文明办主办,中共青岛市市北区委宣传部、市北区文明办、市北区文化和旅游局承办的“永远跟党
期刊
激波与气-液界面的相互作用是超声速燃烧和惯性约束聚变等工程应用中常见且复杂的物理现象.针对其中更具实际意义的非平面激波与气-液两相斜界面相互作用问题,开展了基于VOF(
油品蒸发会导致油品质量下降,透气造成环境污染并且危害工作人员身体健康.本文主要以运动船舶为研究对象,以30万t油船的燃油舱为原型,采用1/40缩尺模型舱和六自由度晃荡平台,
BIM作为“1+X”证书制度的首批认定证书之一,体现了信息化背景下建筑行业BIM专业人才的紧缺现状,这也给土建类高职院校推进BIM人才培养模式改革带来了重大机遇和挑战。通过BIM技术有效融入专业课程体系、重构教学平台、改革基于BIM的教学模式以及BIM实训基地的建设,全方面促进1与X的衔接,增强学生就业的综合竞争力,为行业培养更多的BIM紧缺型技术人才。
“双高建设”之下“新商科”建设通过“1+X”证书制度可以重塑新金融复合型高技能人才培养的模式,通过课程体系优化重组改变“路径依赖”,创新“新商科”人才培养模式。通过职业教育院校金融投资类专业相关人才教育培训,建立“课证融合”机制,探索“1+X”证书制度试点实施路径和模式,探讨金融科技、数字金融下金融综合型复合技术人才培养方案。
为了探究转录因子Runx3在人外周血T细胞中的功能,通过检测T细胞亚群中该基因的表达差异,并在过表达Runx3基因后分析T细胞亚群分布,进一步比较抑制性受体和下游基因的表达差异
围绕华为鲲鹏数字生态人才培养、校企产教融合新模式等的研究,探索高职院校与华为及其生态合作伙伴等企业共同建设鲲鹏数字产业学院,以国家级软件技术高水平专业群的建设为例,以“大类招生、分类培养”的人才培养模式改革为依托,从协同人才培养、共建优质课程资源、打造“云中课堂”、产教融合创新平台和协同创新中心等方面开展合作,校企共同实施项目化人才培养,打造技术技能创新高地,探索并实践产教融合创新合作新模式,对其他专业群或者产业学院的建设具有参考借鉴价值。
为增强二硫化钼(MoS2)对水中Cr(Ⅵ)的去除能力,以D-葡萄糖、苯胺为原料合成碳气凝胶(CA),然后采用水热法将二硫化钼(MoS2)负载到CA上制得CA/MoS2复合物,采用扫描电子显微镜(S
社区社会组织的生成和发展及其融入基层社会治理体系是我国社会转型与发展过程中的重要现象.基于对业主委员会形成过程的个案追踪,发现社区社会组织的生成和发展基本遵循了因
习近平法治社会治理思想是习近平法治思想和习近平社会治理思想的有机统一,主要包括法治社会治理理念论、法治社会治理体系论和法治社会治理保障论三个方面.法治社会治理理念