基于深度学习的文本分类是一项非常依赖标记数据的有监督学习任务,高质量大规模的标记数据集通常很难获得,人工标记数据的成本过于高昂。针对这一现象,本论文研究了使用深度迁移学习技术解决这一问题的可行性和适用性,通过利用未标记数据和相关领域的标记数据,降低对目标领域标记数据的依赖程度。在基于任务的迁移和基于领域的迁移两个方面对LSTM文本分类模型(Long Short Term Memory Based Classification Model)提出了改进与创新,本文主要研究工作如下:(1)对LSTM文本分类模型和深度迁移学习技术进行了介绍。在基于任务的深度迁移方面,分析了SA自编码器(Seq2seq Autoencoder)的结构及其作为源任务的深度迁移方法。在基于领域的深度迁移方面,对传统跨领域迁移学习方法进行了研究。(2)针对SA自编码器捕捉文本表示特征能力较弱的问题,本文将对抗训练引入SA自编码器,使其能够在无监督状态下,从被对抗扰动破坏的输入中重构原文,不再是对输入文本的简单复制。此外,本文使用Bi-LSTM网络构造编码器,使其能够根据前后文的双向信息进行语义编码,并使编码结果参与每一次解码过程。本论文将此结构的自编码器命名为AdvSA自编码器(Adversarial Seq2seq Autoencoder),此外为减轻解码器预测词汇的计算负担,使用重要性采样的方法构建解码器词汇表。实验结果表明,以AdvSA自编码器作为源任务的LSTM文本分类模型在公开数据集IMDB上分类正确率达到了92.98%,在Rotten Tomatoes上的正确率达到了82.57%。(3)为进一步降低文本分类模型对标记数据的依赖程度,提出了基于领域深度迁移的AM-AdpLSTM文本分类模型(Attention Mechanism Based Adaptive LSTM Classification Model),该模型在相关领域学习分类准则并将其迁移至目标领域。通过深度网络自适应克服了由于源领域与目标领域之间的数据分布差异而带来的迁移损失,因此即使数据分布发生变化也无需重构模型。此外,本文利用注意力建立了目标域对源域特征的筛选机制,从而使模型对源域的注意力集中在与目标域相似性更高的部分。在数据集Rotten Tomatoes上,AM-AdpLSTM模型的分类正确率比LSTM模型高7.24%,且随着目标领域有标记数据的减少,AM-AdpLSTM模型的优势越显著。