基于BERT-LSTM的答案选择模型

来源 :南昌大学学报:理科版 | 被引量 : 0次 | 上传用户:superlhl2010
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目前主流答案选择算法主要首先基于word2vec/glove进行词语表示,再使用RNN或CNN提取文本语义特征,但word2vec/glove无法解决一词多义问题,RNN和CNN在文本全局特征提取方面也有局限。针对以上不足,论文提出一种基于BERT预训练模型的答案选择算法BERT-LSTM,首先采用BERT模型提取问答文本的语义特征表示,再利用BiLSTM加强文本序列信息并整合文本语义,最后引入注意力机制突出重点信息,以此完成答案选择任务。在答案选择基准数据集InsuranceQA和WiKiQA上的测试验
其他文献
利用Nevanlinna值分布理论,主要讨论了几类广义Fermat型微分与微差分方程有限级超越整函数解,得到了二阶微分、微差分方程整函数解的存在性条件以及解的具体形式,所获定理推
制备抗幽门螺杆菌(Helicobacter pylori)尿素酶B(UreB)纳米抗体。用灭活的全幽门螺杆菌免疫羊驼,以重组蛋白UreB为靶分子,从噬菌体展示文库中筛选出能与重组蛋白UreB特异性结
探讨了水中Ca2+、Mg2+和Na+3种离子含量对水豆腐品质的影响,根据单因素试验选择Ca2+、Mg2+和Na+3种梯度溶液为自变量,利用质构剖面分析(tissue plasminogen activator,TPA)测
为明确光质对金线莲组培苗生长和代谢物质积累的影响,本文以福建金线莲(Anoectochilus roxburghii)和台湾金线莲(A.formosanus)组培苗为实验材料,在红蓝光2:1(R2B1)、红蓝光1
采用机器人激光焊接技术对车用6016铝合金与DC06低碳钢平板试样进行了钢上铝下搭接焊试验,研究了激光功率(P)和离焦量(f)对接头成形与力学性能的影响。结果表明,激光功率为80
为了解溶解性有机质(DOM)对湿地土壤重金属的吸附特征,采用批量平衡法,结合紫外-可见吸收光谱技术,探究了两种外源DOM(苔草DOM和腐殖酸HA)对湿地土壤吸附Pb2+、Cd2+的影响。
针对传统地下目标识别算法中特征提取方法的缺陷,鉴于深度学习中的卷积神经网络(CNN)能自动从数据中提取特征,但CNN自带的分类器不能很好的解决非线性分类问题,由于SVM具有良
报道了葫芦藓科内蒙古新纪录属小立碗藓属和新纪录种小立碗藓,标本采集于内蒙古自治区呼和浩特市清水河县和鄂尔多斯市准格尔旗黄河岸边冲刷地。对小立碗藓的形态学特征、分
采用固相烧结法成功制备出了六硼化钇(YB6)纳米粒子,首次系统研究了该纳米粉末超导及光吸收性能。结果表明,当超导转变温度Tc=2.75 K时由正常态转变为超导态,其临界磁场为Hc2
研究不同制备工艺对Fe2P-型(MnFe)2(P,X)(X=Ge,Si,B)系列化合物的晶体结构、磁性和磁热效应的影响。利用传统固相烧结结合外磁场加热、不同的热处理温度和时间、淬火和缓慢冷