检索和生成结合的对话模型研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:liganggg1
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
对话在类别上分为单轮和多轮,一般是以一问一答的方式进行。对话模型的实现方式有三种:第一种是规则匹配的对话模型,即依赖于人工制定的规则对问题进行相应的回复的对话模型,第二种是基于检索的对话模型,即通过相似度计算找到正确的回复,第三种是基于生成的对话模型,即依赖给出的上下文自动生成回复的对话模型。目前主要使用的对话模型为检索式对话模型和生成式对话模型,检索式对话模型和生成式对话模型的优点体现在不同方面,所以本文希望研究出能更好的发挥各自优点的检索式对话模型和生成式对话模型,同时找到适合的结合方式,结合两种对话模型各自的优点以最终提高对话模型的性能,并从以下三个方向进行了研究:本文首先对基于检索方式的对话模型进行了研究,在Baseline方面,研究了基于TF-IDF的传统检索模型以及利用循环神经网络的检索对话模型,即通过循环神经网络得到句子的表示,之后再利用点积等相似度计算的方法得到问题和候选回复的相似度以选取分数最高的回复,最后提出了一种利用自注意力机制对句子进行编码得到更深的向量表示的多视角检索对话模型。之后本文对基于生成方式的对话模型进行了研究,在Baseline方面,研究了序列到序列的生成对话模型,使用LSTM与BiLSTM两种网络作为编解码模型结构,之后,研究了带有注意力机制的序列生成对话模型,最后本文研究了外部知识对模型生成结果的影响,分别研究了利用外部信息对模型结果的影响,利用上下文信息以及两者结合对模型结果的影响,同时研究了Teacher Force等训练技巧是如何提升模型效果的。最后本文对检索与生成相结合的对话模型进行了研究,在结合方式上,本文研究了两种不同的检索与生成结合的方式:第一种是通过设置阈值,以阈值作为分界值,判断检索答案得分与阈值的大小,决定采用何种答案的结合方式,第二种是将生成模型的信息融合入检索模型当中,并同时将检索模型的信息融合入生成模型当中,最终以提升模型的效果,并实验对比了两种融合方式的效果。
其他文献
2014年,京津冀区域协同发展被列入国家重大发展战略。随着区域一体化进程的不断深入,产业的集聚和城市群的一体化进程不断加快使得京津冀区域内出现了严重的空气污染。加之特
根据安徽省2000-2015年16市的面板数据,对经济增长与其代价的空间相关性进行了判断;通过空间面板数据模型的设定和检验,最终确定了双向固定效应的误差修正SDM模型。由参数估
延长天然气井施工区块位于鄂尔多斯盆地伊陕斜坡,区内构造简单,无背斜与断块圈闭发育,地层整体较为平缓。但刘家沟组-双石(石千峰组、石盒子组)地层岩性主要为硬脆(破碎)性泥
在新世纪里,如何实现中国逻辑的现代化,从而助力中华文化的伟大复兴?重点需要坚持三个结合:即教学与研究相结合、理论研究与应用研究相结合、提高与普及相结合。
手法治疗腰椎间盘膨出63例临床分析王世伟1)王世宏2)1)河南省体工大队门诊部郑州4500502)解放军防化研究院第一所北京100083关键词腰腿痛;椎间盘;艾条;灸法腰腿痛是一种常见的疼痛性疾病,以腰痛和腿痛为
[目的]研究便携式无创超声心输出量监护仪(ultrasonic cardiac output monitor,USCOM)联合脑钠肽在婴儿肺炎合并心衰中的应用价值。[方法]选取昆明医科大学附属儿童医院呼吸
“取象比类” 是中国传统哲学与传统逻辑思想中的重要思维方式之一, 也是中国古代医家建构理论的重要方法. 作为中医典籍 《黄帝内经》 理论内核之一的 “藏象说” , 处处体现出 “取象比类” 的逻辑思维方式. 探讨“取象比类” 与 “藏象说” 逻辑建构的关系, 能够为我国传统中医理论研究以及 《黄帝内经》 逻辑方法研究提供重要的学理依据. 如果说 《黄帝内经》 “藏象说” 中的 “取象比类” , 作为思维方式的运用和呈现, 因为理论建构的需要,成为一种不断推进的过程, 或者说不断涵盖论题的建构模式, 那么我
如今科技蓬勃快速发展,工业领域对机械零件的使用寿命和性能提出了更高的要求。传统的工艺方法和工艺水平已经不能满足人们的需要,超声振动强化技术在以往的滚压加工的基础上,利用超声波的高频振动来复合强化零件的表面。超声振动加工依据声波纵向振动原理,利用超声振动工具给工件沿一定方向施加超声频振动进行加工,具有摩擦力和弹性压力小的特点,加工后零件表面能够产生一定的冷作硬化效果,不仅能够降低表面的粗糙度和提高表
壳聚糖是可食性涂膜保鲜剂的良好材料,因其易溶于酸难溶于水的特性限制了它在果蔬涂膜保鲜中的应用。试验采用氯乙酸制备途径并采用等电点沉降法进行改性。通过单因素和正交
研究背景与目的:针对轻中度溃疡性结/直肠炎(Ulcerative Colitis,UC)的直肠定位给药治疗,以糖皮质激素布地奈德、生物黏附材料、温敏凝胶基质泊洛沙姆制备布地奈德直肠原位黏附温敏凝胶。筛选优化温敏凝胶制剂处方和制备工艺,考察并阐明其温敏特性、黏附滞留、直肠定位给药等关键性能。材料与方法:分别在强酸、强碱、强氧化条件下破坏原料药,得到布地奈德在不同条件下的降解杂质谱。考察布地奈德在不同