基于词向量技术和预训练模型的深度学习方法虽然对于任务型对话系统效果提升明显,但是存在模型计算量和参数量过大的问题,对部署模型的服务器资源条件要求很高。如何在保持模型效果的情况下,尽量减小模型的参数和体积,对于对话系统落地有着非常重要的意义。使用多任务学习和低秩分解技术对传统任务型对话系统的自然语言理解和自然语言生成模块进行了改进,并使用改进的模型实现了一个完整的建筑领域文档对话系统。1)为兼顾自然语言理解模块的效果和速度,提出了基于双向LSTM和Attention意图检测和词槽填充多任务学习模型MTLA。一方面,通过进行词语级和字符级多粒度特征融合、使用双向LSTM和Attention模型分别捕捉文本序列特征和全局特征以及对两个任务的损失函数进行联合优化三种方法提升了模型的准确度。实验结果表明,MTLA模型在三个数据集上相对于基准模型准确度提高了2到3个百分点。另一方面,通过相加融合特征以及去掉CRF层两种方法提高了模型的预测速度,并验证了两种方法的有效性。2)针对MTLA模型参数量较大的问题,进一步对模型的LSTM层、Attention层和Dense层的参数进行了TSVD分解和TT分解,提出了TT-Attention,最后在三个数据集详细比较了压缩前和压缩后模型的参数量、推理速度、显存内存资源占用等方面的效果。结果表明基于相比于TSVD方法,TT分解可以在保持模型性能的情况下,大幅降低模型的资源占用并提升推理速度。3)针对传统NLG中IR和MRC模块存在的多级输入导致误差累积的问题,提出了基于BERT模型的检索和阅读多任务学习模型HW-MTBERT,提升模型性能的同时减小了模型的体积。同时为改善多任务学习模型对输入问题关键词不敏感的问题,引入了关键词表征增强了模型的感知能力。结果表明,HW-MTBERT模型的阅读准确度提高了近1个百分点,检索准确度提高了2个百分点。4)最后以开源对话系统框架RASA为基础,将其NLU模块和NLG模块修改为提出的模型,并在我们标注的建筑领域数据集上对系统进行了评估。