二十一世纪,在人类进入信息时代,尤其是互联网时代之后,产生了大数据。同时半导体行业在“摩尔定律”的推动下,生产出了拥有更高计算能力的芯片。在大数据与高性能计算设备的加持之下,神经网络的能力得到了充分的体现,人工智能的研究也进入了新的浪潮。从2012年的Alex Net到2020年的Alpha-fold,神经网络加持下的人工智能在许多领域都取得了重大的突破。对话系统作为人工智能的重要研究领域之一,也在这个浪潮之中得到了新的发展。对话系统可以分为任务式对话与非任务式对话两类。任务式对话系统一般以管道方法为基础,以检索式生成作为回复的生成方式。但是对于非任务式对话,也就是闲聊,要求对话活泼自然,而检索式方法生成的回复比较僵化,所以难以胜任闲聊任务。人们于是将在机器翻译任务上取得了很好效果的序列到序列模型迁移到了对话任务上。这种方法的确使得回复的生成更自然了,但是也存在着生成不合理回复的问题。为改善序列到序列模型的回复生成质量,本文在相关研究的基础上,建立了一个基于注意力机制的序列到序列模型。在模型编码过程中,我们使用双层双向循环神经单元对输入句子进行了双向处理,以得到句子更好的表示;在模型解码生成回复的过程中,我们使用了单层循环神经单元,并引入了线性注意力机制和Beam Search算法。最后,我们在Star War Scripts数据集上进行实验以测试本文模型的性能。实验结果表明本文模型生成的回复更合理流畅,因为本文模型在困惑度指标与BLEU值上的得分都优于对比模型。同时也表明,本文模型在编码过程中使用循环神经单元对句子进行双向处理,使得模型的编码器捕获了句子更丰富的结构信息,有助于提高回复生成的质量;在解码过程中使用注意力机制使解码器根据当前解码状态调整解码操作,解码出更合理的句子。