【摘 要】
:
对话系统作为人工智能领域的重要难题之一,在如今深度学习蓬勃发展的时代有着重要的研究意义和应用价值。该领域不仅是人机交互研究的重要组成部分,在智能客服、个人助理、休闲娱乐等场景也有着丰富的应用。本文的研究立足于对话系统的一个重要分支-开放域对话系统,聚焦生成式模型的改善。近年来,生成式模型在开放域对话中的研究取得了一系列的发展和进步,但仍然存在一些问题和挑战:生成通用回复、缺乏上下文一致性、缺乏背景
论文部分内容阅读
对话系统作为人工智能领域的重要难题之一,在如今深度学习蓬勃发展的时代有着重要的研究意义和应用价值。该领域不仅是人机交互研究的重要组成部分,在智能客服、个人助理、休闲娱乐等场景也有着丰富的应用。本文的研究立足于对话系统的一个重要分支-开放域对话系统,聚焦生成式模型的改善。近年来,生成式模型在开放域对话中的研究取得了一系列的发展和进步,但仍然存在一些问题和挑战:生成通用回复、缺乏上下文一致性、缺乏背景知识等。基于神经网络的对话模型倾向于产生琐碎的或不确定的回复,通常包括“我不知道”或“我很好”这样的高频短语;而且聊天机器人的回复有前后不一致的状况,通常体现为和用户已经表述过的内容存在的矛盾,或者对系统自身的描述有冲突。本文以对话系统产生通用回复这一现状为背景,关注此现象导致的回复语句在语义和话题上的多样性的缺乏,展开相关的研究。本文从三个角度提出该问题的解决方案。首先从基于对话状态的多样性角度切入,通过识别多个候选主题来提升交流话题的延展性;然后考虑角色信息的引入对于回复多样性的提升;接着从生成模型的建模角度,不同于机器翻译模型的一对一映射,将对话建模为一对多关系。本文的主要工作包括以下几个方面:(1)基于对话状态的多样回复生成。生成式模型产生的回复通常不涉及主题(即开放域对话中的状态)信息,不围绕特定的主题展开对话使得产生的回复缺乏话题级别的多样性。本文将状态的识别与回复生成建模成一个二阶段任务,考虑到状态具有的类别信息,通过全局-局部的方式设定不同级别的关系抽取器来利用这些类别信息。最后通过实验验证了方法的有效性。(2)基于系统角色的多样回复生成。现有生成式模型通常考虑对话历史,但涉及到机器人的人格(角色)的表述会出现前后不一致的状况,并且引入角色可以带来对话多样性和丰富度的提升。本文依据角色信息的编码特点,引入记忆网络对其进行存储,并使用指针网络检索记忆信息。最后通过实验验证了方法的有效性。(3)基于句式控制的多样回复生成。生成式模型构建的是用户消息到回复的一对一映射,该模型适用于机器翻译场景但在对话场景下需要改善。对话场景中的语言交互,是一个一对多的映射。本文参考句式控制这一概念,在对话过程中能够控制回复语句的句式从而带来多样性。最后通过实验验证了方法的有效性。
其他文献
随着我国进入21世纪,人口老年化趋势加剧,而老年化将导致更多的脑神经核脑血管疾病发生,造成肢体运动功能障碍等后遗症的患者数量也逐年增加。针对此类患者目前行之有效的治疗方法是大量且系统的康复训练。下肢助力外骨骼机器人技术是近几年快速发展的一门新兴技术,它能够帮助患者进行康复训练,是机器人技术与传统康复医学相结合的产物。针对于脑卒中导致偏瘫等疾病,患者在恢复过程中通常会经历虚弱、痉挛、和恢复三个阶段。
润湿性是材料表面性能的重要组成。自然界中有很多生物体具有不同润湿性,人们从中获得灵感,并且对其表面展开深入研究。研究过程发现,具有特殊润湿性的生物表面除了具备疏水或超疏水特性之外,同时还具备其它的功能性,包括自清洁、防污、防冰、防腐蚀和油水分离等。因此根据不同的生产需求开发具有功能性的表面具有重要的研究价值和意义。目前,传统制备具有特殊润湿性功能表面的方法普遍存在成本高、制备过程复杂、技术不成熟、
新冠肺炎(COVID-19)在世界范围内的广泛传播,影响了各个国家的社会稳定和经济发展,而用合适的传染病模型对疫情的发展进行分析预测能够帮助人们更好地应对疫情。论文主要概述了两类应用于COVID-19预测的,基于疫情传染机制的模型,SEIR模型和HIT模型。SEIR模型将人群分为四类,易感者类、潜伏者类、染病者类以及移出者类,符合新冠肺炎病毒有很长的潜伏期这一特点,所以文章中选择SEIR模型来对新
乡村治理预防性法律制度体系是乡村治理工作中形成的各种预防性法律制度的集合体,是防范、化解乡村社会矛盾纠纷的重要载体,对于推进我国乡村治理具有重要意义。针对乡村治理预防性法律制度体系在实践中存在的问题,要从健全乡村治理预防性法律体系、完善“三治融合”的“枫桥经验”治理体系、构建乡村矛盾风险预测预警预防体系等方面着手完善,将矛盾纠纷化解在基层、消弭在事前,为实现乡村振兴提供坚强法治保障。
金属有机框架(MOFs)材料由无机和有机构筑单元构成,功能有机配体的可设计性以及金属离子的多样性使得MOFs材料在气体分离与存储、发光、传感、催化和药物输运等领域都显示出巨大的应用前景。在外界条件变化时,刺激响应型MOFs材料会发生结构转变与性能变化。MOFs材料良好的结晶性为研究单晶到单晶结构转变的原子层面信息提供了有效的保障,而单晶到单晶结构转变的研究对设计合成结构新颖的多功能分子材料具有重要
柔性电子技术为后摩尔时代的智能技术变革提供了重要支撑和创新引领,作为柔性电子产品的基本构件之一,柔性氧化物薄膜晶体管因其较高的迁移率、良好的柔韧性以及低温、低成本的制备工艺而受到研究者的广泛关注。对于传统晶体管器件而言,工作电压较高是目前实际应用中面临的关键问题,研究指出,利用沟道/电解质界面的双电层电容耦合可有效降低器件工作电压,实现低功耗运作。此外,柔性应用的快速发展对晶体管的机械柔性提出了更
溯源是一种包含了数据对象历史信息和对象之间依赖关系的特殊元数据。目前,溯源已经被用于入侵检测,用来提高检测精确度。但由于训练样本匮乏,制约了检测精确性的进一步提升。另一方面,生成对抗网络可以用来生成数据,且已经用于图像领域,有很大的潜力可以用于入侵检测数据集的生成。提出了基于生成对抗网络的溯源图样本生成技术。首先,选取出溯源图中心节点及其邻域节点,并将节点按照时序进行向量化处理,将溯源图样本转化为
目前我国商用车的百公里燃油消耗量普遍较高,随着法规对油耗要求的不断严格,采用先进节能技术变得愈加重要。作为一项关键节能技术,轻量化技术对于商用车降低燃油消耗及减少污染物排放至关重要。其中,商用车车架质量占商用车整车质量的10%左右,因此商用车车架的轻量化设计对于商用车整车的节能减排意义重大。本文进行了基于性能驱动的重型牵引车车架轻量化优化设计,既考虑了牵引车车架的强度、刚度以及模态性能,同时考虑了
线性互补问题是一类十分重要的优化问题,它在工程、经济、交通等各个领域都有重要应用,本文研究由线性互补问题与线性常微分方程耦合而成的问题——线性互补系统(Linear Complementarity System,简称LCS)。对于LCS的初值问题,我们探讨可靠区间解的计算,可靠区间解是依时间变化的区间向量,包含了LCS的真解。这样的解可同时给出LCS的数值解与误差界,其误差界覆盖了离散、逼近等误差