对话系统作为自然语言处理的重要研究分支,在近几年持续受到研究者的关注。海量数据的出现和深度学习的快速发展为对话系统的建模提供了重要支持。对话系统一般分为任务型和检索型,任务型对话系统需要从对话中对用户意图进行识别并完成特定任务;检索型对话系统需要根据多轮历史对话,结合深度匹配模型,从回复模板库中检索出与当前对话最为匹配的回复候选项。检索型对话系统的回复检索性能,容易受到数据集质量的影响,并且当前的深度匹配模型对对话的语义理解仍然有待提升。针对上述问题,以提高回复检索性能为出发点和研究动机,本文从数据和模型的角度对检索型多轮对话系统展开研究,主要工作和贡献如下:从数据角度,本文通过多方面的对大规模多轮对话数据集的分析,发现它们存在样本质量低、缺乏语义,对话中主题切换的问题。提出多轮对话增强策略（Multi-turn Conversational Augment Strategy,MCAS）,旨在提高对话样本的质量并缓解噪声样本的影响。MCAS从长轮次的对话样本入手,采取截断式的构建正例样本,随机、交叉式的构建负例样本。通过在已有的深度匹配模型中的实验表明,即使不设计复杂的匹配模型,单从对数据的建模就能提高回复检索的性能,这也为该领域的研究提供了新的思路。从模型角度,本文将预训练语言模型引入到检索型对话系统中建模,旨在利用它对海量数据强大的语义理解能力。本文以BERT和ELECTRA为基础,提出了基于多轮对话的域适应训练和微调策略。域适应训练能够利用多轮对话样本,构建下一句预测任务和掩码语言模型,让匹配模型融入更多特定领域的内部知识。在微调策略中,为了能够捕捉不同聊天者的对话信息,提出了基于聊天者的段嵌入表征方式。通过在三个多轮对话数据集中的实验和多种评估指标的验证表明,结合预训练语言模型能够极大的提高回复检索指标,同时也证明了提出方案的可行性和有效性。