人机对话作为自然语言处理的一个重要分支,旨在使普通人能够使用自然语言与机器进行交互,以方便快捷的方式获得自动信息服务。现有的人机对话系统主要可分为闲聊型和任务型两大类。任务型对话系统包含自然语言理解（Natural Language Understanding,NLU）、对话状态追踪（Dialog State Tracking,DST）、对话策略（Dialogue Policy,DP）和自然语言生成（Natural Language Generation,NLG）四部分。其中,对话状态追踪利用多轮次用户与系统的对话信息,对状态进行实时更新,决定系统采用的响应方式,是系统做出决策的基础,具有重要意义。近年来,相关研究将自然语言理解集成在对话状态追踪任务中,以端到端的方式联合建模,消除了传统方法中存在各个模块间误差累积的问题,取得了很大进展,但依然存在一些问题,如:1、随着对话的进行,对话层次结构越来越深,模型在预测当前对话状态时,往往不能充分利用之前的对话信息,造成难以建模对话文本中长距离依赖关系的问题;2、每种槽位类型的训练语料通常是有限的,当标注数据不足时,基于深度学习的模型难以充分提取对话语义特征以及被充分训练。本文针对上述问题展开研究,充分利用语义信息进行对话状态追踪,主要工作包括:1、针对难以建模对话文本中长距离依赖关系的问题,提出多领域级联对话状态追踪模型（Multi-domain Cascaded Dialogue State Tracking Model,Mu Ca）。将对话状态追踪任务建模成序列到序列任务,包含一个由级联神经网络组成的编码器、一个上下文增强的槽门和一个状态生成器。编码器具有两层结构,底层采用卷积神经网络（Convolutional Neural Network,CNN）获得低维句子表示,顶层采用门控循环单元（Gate Recurrent Unit,GRU）,在低维句子表示的基础上融合对话文本时序信息,构建具有局部和全局上下文归纳偏差的模块以进行序列学习;状态生成器利用软复制机制从对话和词典中追踪对话状态,实现跨域共享参数,追踪测试集上的未知槽值;槽门用于判断当前解码的领域-槽位对是否存在于当前对话中。在Multi WOZ和Cross WOZ数据集上的实验结果表明,Mu Ca模型能够改善难以建模对话文本中长距离依赖关系的问题,达到更高的联合准确率和槽位准确率。2、针对在标注数据不足的情况下语义提取不充分的问题,提出混合BERT对话状态追踪（Hybrid BERT Dialogue State Tracking,Hy BERT）模型。模型包含编码层、注意力层和分类层三部分。编码层使用BERT（Bidirectional Encoder Representation from Transformer,BERT）作为编码器,分别编码对话文本和本体中预定义好的所有候选槽值对,充分利用大规模无标注数据挖掘对话中丰富的语义信息;注意力层计算对话文本表示与候选槽值对表示之间的语义相似性;分类层判断候选槽值对是否出现在当前轮次对话中来进行状态追踪。模型训练过程中使用focal loss代替传统的交叉熵损失来解决正负样本不平衡的问题。实验结果表明,Hy BERT模型采用基于预训练加下游任务微调的方法,可以有效缓解训练数据不足时语义提取不充分问题,加快模型收敛的速度,在小规模数据集DSTC2和Wo Z 2.0上均达到更高的状态追踪准确率。