论文部分内容阅读
近几年,人机交互已经慢慢走进人们的生活,智能音响,智能车载导航等产品给人们的生活带来了极大的便利。而人机交互背后的技术实现除了将语音转换为文字的语音识别技术外,还包含将文本转化为用户意图的口语语义理解。因此,口语语义理解的精度直接影响到人机交互体验的好坏,研究口语语义理解对改善人机交互体验有很大帮助。 口语语义理解任务,本质上是一个典型的序列标注问题,即将一句话中的每个单词标注为一个语义标签。而循环神经网络特别适合处理序列问题,本文选择循环神经网络对口语语义理解进行建模。为了提高口语语义理解模型的精度,本文从数据增广,改进循环神经网络模型,语法信息融合三个方面进行研究,主要工作和贡献为: 1、由于口语语义理解研究的公开数据集比较小,所以在训练模型时,很容易导致过拟合。为了缓解数据集过小造成过拟合的问题,本文提出了一种基于单词的细粒度数据增广方法。该方法利用句子中的冗余信息,通过随机剔除其中不影响语义表达的单词,可以有效增加数据量。该方法可以有效缓解过拟合问题的原理在于一方面只剔除句子中不影响语义表达的单词来实现数据增广,另一方面在剔除单词的同时会给句子带来一些随机噪声,从而可以有效地缓解过拟合。 2、提出了一种增强上下文信息的循环神经网络模型,本文称作加窗循环神经网络(Window RNN,WRNN)。虽然循环神经网络具有记忆历史信息的能力,但是由于存在严重的梯度消失问题,所以不能记录较长的历史信息。为了改进这个问题,本文提出一种全新的对循环神经网络隐层加窗的方法来加强其对上下文信息的记忆和利用。这种方法不仅对标准循环神经网络有效,对记忆能力更强的长短时记忆网络也同样有效。 3、提出了一种融合语法信息的口语语义理解方法。语法信息对于理解一句话的语义表达起到至关重要的作用。虽然通过神经网络构建模型的时候,会对句子隐式地提取其语法结构信息,但这种方法并不能充分利用语法信息。同时考虑到在以往的口语语义理解研究中,并没有将语法信息显式地加入到口语语义理解模型中,本文将通过并行,串行,混合三种不同融合方法将语法结构信息融合到口语语义理解模型中。实验表明混合融合方法可以有效提高口语语义理解的精度。