基于深度学习的任务型多轮对话口语理解研究

来源 :华中师范大学 | 被引量 : 0次 | 上传用户:znzlwzkp
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能技术的发展,人机对话系统逐渐出现在了人们的日常生活中。这种任务驱动的人机对话系统能够通过用户提供的信息,协助用户完成特定领域的任务。口语理解作为任务型人机对话系统的关键模块,可以从用户的自然语言中提取出计算机能够识别的结构化数据,主要包括两个子任务:用户语句的意图识别与语义槽填充。深度学习模型能够以端到端的形式高效地完成口语理解任务,从而提高任务型对话系统的整体效果。在多轮对话中,用户与机器之间的历史对话信息能够为口语理解模型提供额外的信息支撑从而更好地理解用户的当前语句。但是并非所有的历史信息都与当前句相关,在人机交互中用户的意图存在跳转的情况,这时无关的历史信息则会为当前句的理解带来负面影响。此外,在人与人之间的交互中,言语背后通常都省略了人们通晓的常识和知识,但是机器却不了解这些信息,无法和人类一样进行推理。本文将历史信息和外部知识引入意图识别和语义槽填充的联合模型,使模型能够更加精准地理解用户对话。本文主要研究包括:提出了一种融入历史信息的口语理解联合模型,该模型能够利用机器与用户之间的历史对话信息,从而提升意图识别和语义槽填充任务的准确度。针对该历史信息存在的意图跳转问题,本文提出了一种注意力机制,用于对历史对话信息分配相应权重,获得更相关、更有效的历史向量表示,并用加权平均的方式得到每个“词”对应的历史信息向量表示,最后将其融入联合模型;同时,利用口语理解中意图识别任务与语义槽填充任务的强关系,设计了一种辅助门结构,该门结构能够利用意图识别的结果限制槽位生成。实验结果表明,本文提出的口语理解模型可以更准确的识别用户意图和语义槽信息。提出了一种融入外部知识的口语理解联合模型,该模型在加入了历史信息作为辅助的同时,引入了外部知识库作为知识和常识的补充。如何从知识库中找到当前最需要的候选知识集合,以及如何对该知识集合进行筛选是目前面临的主要挑战。针对候选知识的筛选问题,提出了一种基于“词”的注意力机制,以“词”为查询信息,利用注意力机制对其进行加权平均,得到候选知识向量,用于下游联合模型。实验结果表明,加入了外部知识的口语理解模型能够在用户意图识别和语义槽生成任务上取得更优的效果。
其他文献
中国目前正在经历从计划经济体制向市场经济体制的转变,从以政府选择为基础的传统社会向以社会选择为基础的现代社会转型。伴随着政府职能的转变和企事业单位社会职能的剥离,大
介绍了一种在微控制器(单片机)上实现PPP协议,并使其通过ISP连入Internet的方法.分析了PPP协议,论述了软件系统的层次结构和实现难点,重点介绍了协议的简化方法以适应单片机
分析了稀土串级萃取分离的工艺流程,探讨了QPSO优化ELM参数的方法对稀土萃取槽中离子组分含量的预测精度与速度问题,并运用该方法对某厂镨/钕萃取中镨工艺参数的生产数据进行了
本文分析了风力发电机设计现状,提出筏板式扩展基础这种新型风机组基础型式,结合实例对新型筏板式扩展基础设计相关技术、经济性指标进行分析评价.结果表明,筏板式风力发电机
目前国内大多数油田油井产量的计量主要是通过输油管线输送到计量站进行统一集中计量,这种方法在实际操作过程中既不经济,也不再适合现代油田的发展,更重要的一点是其计量精
随着我国社会经济的快速发展,国民生活水平不断的提高,使得人民对电力资源的需求量与日俱增,也促使了我国电网管理智能化的发展。在智能电网当中分组传送网技术通讯应用成为
目的了解上海市嘉定区成年人群慢性肾脏病流行现况,为合理安排配置卫生资源、制定防治政策和措施提供依据。方法采用多阶段整群随机抽样法对上海市嘉定区某社区1215名35周岁
变速恒频风电技术为国家发展带来了极大的成效与效果,目前仍存在一些原理上的问题与矛盾。本文通过对其原理进行简单的谈论与分析,并根据其内在系统风力机的自动铺风系统进行
在电力行业的不断发展下,无锡市政建设的力度将进一步加大,电力设施保护工作形势严峻。针对历年我市配网外力破坏频发、今年无锡供电公司将配网电力设施保护作为效能监察项目
以研制的机器人多指灵巧手微型五维指尖力/力矩传感器为基础,基于单片机AT89C52设计了高性能的数据采集系统和数据处理系统,实现了主计算机的RS422串行通讯,从而构成了一套完整的智能化的五维