随着深度学习在自然语言理解、词向量表示、机器翻译、情感分析以及中文分词领域的应用,人们开始研究聊天机器人的关键技术,把深度学习应用于聊天机器人。近年来,聊天机器人成为了一个非常热的人工智能的研发方向。目前研究者们在研究开发开放领域的聊天机器人时,一般会在深度学习技术的Sequence to Sequence(或者称作是Encoder-Decoder)框架下进行改进的。本文也是在这样的技术原理下,针对聊天机器人研究领域出现的一些主要问题进行了分析研究,提出了一个新的聊天机器人模型,即神经网络主题模型与深度学习语言模型相结合得到的智能聊天机器人模型(T-DLL Model)。本文设计的神经网络主题模型是将传统的主题模型LDA与长期记忆网络结合形成新的LSTM-LDA神经网络主题模型,深度学习语言模型的设计是基于Attention Model的双向LSTM(Bi-LSTM)的Encoder-Decoder框架模型。具体研究工作如下:(1)针对词向量的训练问题,采用了word2vec训练工具,通过distributed representation的方式来表示词,而且根据word embedding机制“降维”的原理来减少计算量。(2)针对长距离依赖问题,配合使用了Attention model(注意力模型)和Bi-LTSM(外部记忆单元)。其中Attention model解决了传统Encoder-Decoder框架只有一个中间语义向量从而导致信息丢失、信息冗余的问题。LSTM模型通过学习长期依赖信息,解决了循环神经网络(RNN)的Gradient Vanish(梯度消失)问题和模型训练中的长期依赖问题。Bi-LSTM模型解决了LSTM模型没有考虑到下文的信息,丢失了部分的语义信息的问题。(3)为了解决万能回复的问题,使机器人能够生成持续的、有意义的对话,本文提出使用向量空间方法来计算输入问句经过word Embedding生成的词向量与通过神经网络主题模型获取语料库中和问句相似的可作为主题信息的语义向量的相似度,根据相似度值进行叠加或者替换当前主题信息,获取新的当前主题信息,然后将当前主题信息与Encoder输出的上下文语义信息相结合作为Decoder的输入。带有主题信息的聊天模型能够在理解上下文的基础上,解决因多轮会话中生成无意义对话而导致对话难以进行下去的问题。通过抓取字幕库网站得到的语料库对本文提出的模型进行训练,运用深度学习的编码库来实现模型,结果表明本文提出的模型在进行持续有意义的对话上比传统的语言模型要好些。