知识驱动的生成式会话系统研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:nanguo345
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
以深度学习为代表的新一代人工智能技术的兴起,推动了自然语言处理技术的蓬勃发展。作为自然语言处理技术的典型应用,人机会话系统是当前学术界和产业界研究的热点。传统的生成式对话系统受限于缺乏外部知识,存在生成句子单一、对话互动能力差等一系列问题。近年来,知识驱动的人工智能受到学者的广泛关注。本论文在生成式会话系统中引入知识,提升了会话质量。本论文的具体研究内容如下:1.提出了基于知识推理的生成式对话模型。针对生成过程中知识的利用问题,模型设计了基于注意力机制的知识选择器和基于注意力机制的知识实体推理器,基于注意力机制的知识选择器强化上下文语义编码;基于注意力机制的知识实体推理器通过全局知识信息融合和知识实体推理过程增加知识实体预测精确度,帮助丰富回答;针对现有数据集存在不同结构数据的问题,模型设计了异构知识处理器,使模型能够支持结构化知识和连续知识输入,通过转换网络消除语义编码的空间不一致性;同时设计基于知识推理的解码器。最后在Ducov数据集上进行对比实验,证实了模型能够使生成句子包含外部知识,提高生成质量。2.提出了知识指针生成对话模型,改善基于知识推理的生成式对话模型中生成句子知识的覆盖率不高的问题。模型从两个方面进行改进,其一是针对注意力机制不能充分捕捉较长的上下文和知识之间联系的问题,结合双向注意力机制改善了全局知识信息融合向量,增加细粒度语义特征从而增强知识实体预测准确率。二是改进了pointer-generator机制,我们设计了输入词概率分布的生成、知识实体词概率分布的生成、词表词概率分布的生成以及对应的解码器和损失函数。通过实验分析证实了知识指针网络能够有效解决知识覆盖率不高的问题,使生成信息更丰富的回答,同时能改善OOV问题,进一步提升了生成响应的质量。3.基于以上工作,论文设计和实现了面向娱乐电影领域的人机对话系统。测试表明,本文提出的模型在会话表达丰富性、改善句子生成质量等方面均有实际效果,为进一步的研究奠定了基础。
其他文献
将不同浓度的苯甲酸钠改性的石墨电极作为锂离子电池的负极备用材料,并使用恒流充放电、循环伏安和交流阻抗等电化学方法表征电池的性能。结果表明,与初始的石墨电极相比,被
鸡传染性支气管炎(infectious bronchitis,IB)是由鸡传染性支气管炎病毒(infectious bronchitis virus,IBV)引起的一类急性、高度接触性呼吸道疾病,由于鸡传染性支气管炎病毒容易
改善我国高等工程教育的教学内容、课程体系和教学方法相对落后于经济和社会发展的现状,培养具有创新精神和创新能力的人才,是我国高等教育面临的新使命.根据多年组织和参与
<正> 形式美是美学中的一大难题。它虽已引起人们重视,但许多问题仍然若明若暗。例如,形式美是否存在?它是否一种独立美?它的性质如何?它与其他美的形态又有什么区别?这些都
股份有限公司资合性的特点使得公司所有权与控制权高度分离,因此董事会在公司治理中具有着显著的地位,确保在董事会上的发声则意味着掌控了公司的发展命脉。而控制董事会最直
&#39;语文是一门关于人脑生产主体语言以能动地反映世界的科学&#39;这一新的语文观的建立,要求站在新的语文课程理论和实践的高度,再认语文知识、重构语文知识体系.
不断地学习是知识经济时代对人的基本要求.人们只有不断学习,更新知识,才能跟上时代的步伐.为此,教育,无论是中小学教育还是高等教育,都必须培养想不断地自主学习并且能不断
阅读是人的重要的生活方式,阅读教育对学生的阅读起着重要的作用。阅读教育的意义不仅限于阅读本身,还有对生命意义的阐释。首先,阅读教育通过意义期待、理解生成和视域融合
本实验采用常压反相悬浮聚合法制备P(AN-co-MA-co-MMA)@H2O微胶囊发泡剂,并进一步制备P(AN-co-MA-co-MMA)@H2O/密胺泡沫复合材料。同时研究了P(AN-co-MA-co-MMA)@H2O/密胺泡
近年来,随着区域内小型机场数量的增长和高速铁路的快速发展,原机场群内各大机场的客运市场受到了一定程度的冲击。为应对挑战,部分机场采取新建跑道或改扩建机场航站楼等方式提升自身竞争力,或开通异地城市航站楼以吸引周边地区航空客流。然而受到资金流,土地资源等条件限制,机场改扩建方案实施具有现实难度,同时可能出现重复投资和过度开发等问题,不利于机场的整体发展和收益最大化。而城市航站楼受制于公路运输的特点和当