多轮对话模型能够根据对话上下文信息给出最契合对话上下文的回答,在个人助手、智能客服、教育辅导等领域都存在广泛的应用。如何根据对话上下文信息给出准确的回答是多轮对话模型研究的关键点,现有模型存在关键信息难以提取、句子粒度信息不够丰富、对话上下文长期依赖难以捕获等问题,限制了多轮对话模型效果的提升。针对上述问题,本文的主要研究内容如下:1)现有的多轮对话模型存在未登录词频繁出现、句子粒度信息不足导致语义缺失、无关信息交互影响匹配效果等问题。针对上述问题,提出了一种结合词注意力机制的多粒度循环神经网络模型（Multi-Granularity Recurrent Neural Network with Word Attention,MRNA）。为了获得更准确的语义表征向量,MRNA对字符级信息和词语级信息进行融合,增强了向量的表示并缓解了未登录词的影响。MRNA采用AHRE（Attentive Hierarchical Recurrent Encoder）对对话上下文和回答进行层级编码,将编码后输出的句子切分为前向序列相似度矩阵和后向序列相似度矩阵,并且结合词矩阵从而获得多粒度的语义匹配信息,丰富了匹配信息的表示从而防止出现语义缺失的现象。为了在语义匹配过程中充分提取对话上下文和回答中的相关语义信息,MRNA使用词注意力机制,动态地学习注意力矩阵的权重,从而提取与对话上下文和回答最契合的关键信息。在Ubuntu和Douban数据集上的实验结果表明,MRNA模型都取得了优于对比模型的实验结果。2)MRNA模型虽然在提取句子层级粒度信息等方面获得了提升,但是还是存在无法有效提取对话上下文的长期依赖关系、句子中的关键信息得不到有效利用等问题。针对上述问题,本文提出了一种结合上下文建模与多头注意力机制的深度神经网络模型（Context Modeling Network with Multi-head Attention,CMNMA）。CMNMA采用多头注意力机制对对话上下文和回答进行编码,把句子切分为多个子句分别使用注意力机制进行计算,使得每个子句可以分别提取其中的关键信息,最后融合每个子句并生成优化后的句子级表示。为了提取对话上下文和回答之间的长期依赖关系,CMNMA提出了基于旋转记忆单元（Rotational Unit of Memory,RUM）的上下文语义信息提取模块,RUM通过旋转的方式来操作隐藏状态,避免了参数化正交运算,从而防止操作过程中造成隐藏状态的丢失并更有效提取句子之间的依赖关系。在Ubuntu和Douban数据集上的实验结果表明,CMNMA在捕获对话上下文和回答之间的长期依赖关系、提取句子中的关键信息等方面均优于对比模型。