口语理解是对话系统重要的功能模块,口语理解的性能直接影响后续的对话管理,意图识别和语义槽填充是口语理解的两个关键子任务。本研究主要针对对话系统中的口语理解进行研究。传统方法中,意图识别和语义槽填充独立解决,独立建模没有考虑两个任务的相关性,但是这两个任务相互关联,因此现阶段大多数研究者将意图识别和语义槽填充任务使用同一个模型联合解决,这样既可以将模型学习到的特征被两个任务共享,同时将意图识别和语义槽填充的结果使用一个模型输出,对于后续的对话管理可以减少误差累积。本文在联合建模的基础上进行改进。本文的工作包含两个任务的独立建模研究和融合多种方法的联合建模研究。本文的具体工作如下:(1)两个任务的独立建模研究。由于支持向量机(Support Vector Machine,SVM)在意图识别任务中效果比较好,因此本文采用SVM对意图识别进行独立建模研究,并采用深度学习模型卷积神经网络(Convolutional Neural Network,CNN)、双向门控循环单元(Bidirectional Gated Recurrent Unit,BiGRU)以及CNN-BiGRU模型对意图识别进行研究。语义槽填充任务类似于命名实体识别任务,通常采用序列标注的方法解决,条件随机场(Conditional Random Fields,CRF)在命名实体识别任务中效果显著,本文采用CRF对语义槽填充进行独立建模研究,并将口语理解独立建模的结果与提出的融合多种方法的联合识别模型进行对比。(2)提出一种融合多种方法的联合识别模型对意图和语义槽填充联合建模,达到优化语义框架的目的。第一,采用深度学习模型双向长短时记忆网络(Bidirectional Long Short-Term Memory,BiLSTM)获取上下文语义语法特征。第二,对两个任务加入注意力机制克服BiLSTM不能对输入序列聚焦学习的缺陷,进而达到不同时刻对所有输入序列的聚焦式学习,更好地获取输入的特征信息。第三,由于意图识别的结果对语义槽填充任务具有积极作用,采用语义槽门控slot-gated机制将意图识别的结果作用于语义槽填充任务。第四,考虑到语义槽填充任务标签前后具有依赖关系,深度学习模型提取特征后,在语义槽填充任务中采用CRF作为解码模型。本文在两个数据集上进行实验,将提出的融合多种方法的联合识别模型与两个任务的独立模型以及其它联合识别模型进行对比。实验结果表明,本文的实验模型优于其它模型,证明了意图识别的结果对于语义槽填充的积极作用,结合统计模型可以考虑到标签序列前后的相互依赖关系,对于后续对话系统的研究具有重要意义。