大规模知识图谱下的融入知识对话生成方法研究

来源 :华中师范大学 | 被引量 : 0次 | 上传用户:jimiwison
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习技术的快速发展,以深度学习为基础的对话系统有望成为下一代人机交互的一种方式。其中的对话生成是对话系统中最重要的环节之一,也是最具有挑战性的研究问题之一。当前的主流对话系统大多基于序列到序列模型,此模型能够从海量训练数据中自动学习生成回复的逻辑,但是由于模型在生成时仅利用了输入语句中的有限信息,造成模型在生成时往往倾向于生成例如“对不起,我不知道。”这样的安全回复。因此学者们尝试引入外部知识,通过相关知识的指导使模型生成包含更多信息、更有意义的回复。但是其面临着两个挑战:一个是知识的来源,另一个是知识的融入。目前知识的存储常常以知识图谱的形式存在,现存知识图谱中知识的数据量往往十分巨大,因此如何从巨大的知识图谱中选择出合适的知识是一个值得研究的问题。同时,在真实的对话中,人们在进行对话时往往会利用很多条相关知识,“综合考虑”后进行回答,如何合理地融入多条知识指导模型生成回复也是一个很重要的问题。针对以上两个问题,本文开展了如下两个研究工作:(1)提出了一种基于BERT的多轮知识选择模型(MKS-BERT)。MKS-BERT首先设计了多轮对话实体转移算法,同步得到对话的主题实体,根据当前对话的主题缩小候选知识范围。然后,利用BERT预训练语言模型中上下句预测任务与知识选择任务的相似度,使用基于BERT的知识选择器从缩小范围后的候选知识中选择最终要使用的知识。实验表明,相较于传统非预训练知识选择器,其知识选择准确率显著提高。(2)提出了一种基于图神经网络的融入知识对话生成模型(KDG-GN)。目前的知识图谱大多以图的形式呈现,而图神经网络天然擅长处理图结构的数据,KDG-GN在考虑用户输入的情况下利用图神经网络对候选知识子图逐层卷积,得到知识子图的编码向量,这个向量包含了知识子图中知识的相关信息,并最终用于指导对话生成。与对比模型的实验结果表明此模型生成的回复更丰富,语句更自然。
其他文献
净化槽及一体化污水处理设备在农村生活污水中的应用已十分广泛,本案例共建设污水处理站24座,总处理规模1093m3/d。主要采用净化槽及AAO一体化污水处理设备,出水执行湖南《农村生活污水处理设施水污染物排放标准》(DB43/1665-2019)一级标准。项目实施后,各站点污水出水运行稳定达标,研究成果主要介绍了污水处理站的工艺选择、设计参数、运行成本,对运营数据进行了简要的对比与分析,并对农村污水
期刊
贸易便利化议题近年来广受关注,在专业市场的对外贸易中,简化贸易流程、优化监管政策是提高贸易便利化的主要推手,我国市场采购贸易方式正是围绕这两方面进行贸易方式创新而产生和实施的。新螺蛳湾国际商贸城是典型的专业市场,因其独特的区位优势和良好的发展态势,于2020年获批市场采购贸易方式试点资格,这将对商贸城对外贸易产生巨大影响。因为市场采购贸易在促进贸易便利化上具有独特优势,而贸易便利化带来的外贸增长在
学位
出口信用保险被世界各国广泛应用于支持本国企业扩大出口,是一种被世贸组织认可的政策手段。在对外贸易中,出口信用保险能够为买方违约导致的商业风险或进口国发生政治风险而造成的经济损失提供风险补偿。2004年,中国信保YN公司成立,在全国范围内YN省属于较早发展出口信用保险的省份。随着“一带一路”建设的不断推进,借助RCEP区域全面贸易协定签署带来的历史机遇,YN省被定位为链接南亚东南亚的大通道,中国信保
学位
在美丽乡村建设的大背景下,“农业+文化+旅游”的乡村经济发展模式得到普遍的认可,由于各地资源和条件的不同,规划设计需要具体情况具体分析。本文以探索凤羽在乡村建设道路上以绿色科学发展的方式为目的,关注“保护”与“开发”之间的问题,对凤羽镇三爷泉区域进行景观设计研究。论文首先阐述了景观生态学、低影响开发理论的概念,为指导景观空间规划设计提供了方法和途径。然后,介绍了历史名镇—云南大理凤羽镇的地理位置、
学位
媒介素养教育始于20世纪30年代,其目的是为了保护精英主义文化,抵御大众文化带来的不良影响。经过长期的发展,媒介素养教育理论经过了四次范式的变革,形成了参与式的文化内涵。我国媒介素养教育起于20世纪末期,引入了大量国外学者的研究成果,并以高校学者为主体进行了相应的实践探索,初步形成了媒介素养教育研究体系。进入21世纪,新兴媒介的快速发展改变了传统社会结构,形成了以“人—媒”关系为主导的现代生活方式
学位
目前在国际资本市场中分拆上市已经发展的较为成熟,但在国内资本市场中分拆上市的发展仍相对缓慢。2019年证监会发布的关于分拆上市的若干规定为我国企业分拆上市做出了更为明确的指引,也使分拆上市在国内资本市场受到了更多的关注。越来越多的企业开始了解或实行分拆上市,何时进行分拆成为这些企业关注的问题。究竟是哪些因素在影响企业分拆上市时机的选择,分拆上市时机选择又是如何影响企业经营绩效的呢?本文以Y集团分拆
学位
新一代信息技术的发展,促进教育决策由经验化逐渐向科学化转型。日常活动行为的数据,既是各类隐性规律的外显体现,同时也成为研究与发现特征的重要手段。例如,人们的活动轨迹大数据,在当今新冠肺炎席卷全球的严峻局势下,是揭示与及时跟踪去向,政府实施流调控制的重要信息源,它抗疫过程中担当着无可替代的重要角色。大学生在城市间、校园间的流动情况,在校园中的日常行为,也是值得重点关注的内容。在当今“内卷”横飞、疫情
学位
近年来,世界的经济高速发展,然而伴随经济增长而来的是环境的日益恶化,其中温室效应、全球变暖、沙尘暴等问题已在全球蔓延,成为人们重点关注的环境问题之一。我国在“十三五”规划中,明确提出了发展低碳经济模式,此后的“十四五”规划进一步提出坚决遏制高能耗、高排放项目盲目发展,推动绿色转型发展的要求。碳排放逐渐被社会所重视,而碳排放成本,也成为企业管理和核算的主要内容。目前火力发电企业属于碳排放的重点企业,
学位
随着新时代的不断进步,物质生活的不断丰富,人们对良好的生态环境的需求日趋激烈,越来越多的人向往着青山与绿水。近年来随着一系列生态保护和环境治理的利好政策出台,生态环保治理业势必会迎来新的发展机遇。随着生态环保治理业的不断发展,行业内的上市公司将会受到更多投资者的关注,但是行业上市公司鱼龙混杂,良莠不齐,投资者在面对众多生态环保治理业上市公司时就产生了许多问题,例如生态环保治理业上市公司的行业发展怎
学位
如何改进提升绩效考核指标体系,推动企业在日益残酷的市场竞争环境中取得领先优势,是当代企业关心的焦点。航空企业属于重资产、高风险行业,虽然近些年来行业一直保持增长趋势,但随着航空运输国际化,以及航空牌照获取政策打开,航空企业竞争日趋激烈。受新冠疫情的影响,国际大量航空公司消亡,国内航空依靠国内疫情迅速控制得以喘息,这既给国内航空公司发展带来挑战,也带来新的机会。如何在疫情之后迅速抢占市场,取得领先优
学位