随着互联网的快速发展,网络上出现了许多的信息资源,这些资源给人们的生活带来极大便利,同时也给人们带来很大困扰,如何从数以万计的复杂文本资源中快速获得有效信息,是高效利用网络资源的关键。自动文本摘要是自然语言处理领域的一项重要任务,它广泛应用于新闻摘要等领域,应用自动文本摘要技术对文本资源进行信息压缩和抽取,是获取文本资源关键信息的有效方法之一。自动文本摘要方法主要有抽取式摘要和生成式摘要两种。传统的抽取式摘要方法主要应用无监督抽取式方法,没有对语料进行训练学习的过程。这些方法大多是基于统计层面的,考虑的维度较为单一。深度学习方法在自然语言处理领域发挥着越来越重要的作用,神经网络能够深度挖掘文本的特征和语义关联,本文将深度学习方法运用到文本摘要任务中,首先从抽取式摘要方法入手,充分考虑词、句和段之间的特征,然后改进现有的生成式摘要方法,最后将预训练语言模型运用在生成式文本摘要任务中,进一步提升摘要生成效果。具体内容如下:1)提出了一种基于度量学习的抽取式文本摘要模型。传统方法在处理文本摘要任务时没有充分利用到参考摘要信息,为了利用充分利用标签信息,引入度量学习概念结合深度学习网络中的Transformer模型和双向门控机制单元在公开数据集上进行训练,使用Transformer模型获取句子级的文本特征信息,转换成句子向量,再将得到的句子向量输入到双向门控机制单元中,得到文档向量,最后利用度量学习,计算文档向量和句子向量之间的相似度,抽取出摘要句。在英文摘要CNN/Daily Mail数据集上的实验表明,提出模型的Rouge分数在Rouge-2、Rouge-L上比基线模型分别高出1.29%和2.43%,该算法能够增强模型辨摘要句与非摘要句的能力,有效改善了抽取式摘要方法的性能。2)提出了一种基于残差卷积门控网络的生成式文本摘要模型。由于抽取式摘要模型会过度关注那些在语义上较为重要的句子,这会使得算法在抽取句子时容易重复抽取,导致摘要句语义冗余。为了解决这一问题,探索了生成式摘要方法,模型设置了一个基于残差网络的卷积门控单元来对源上下文进行全局编码。各种参数在卷积神经网络的门中是彼此公开且共享的,设置了一个卷积门控机制,这个门过滤了由Encoder的输出结果,在每个时间步中对语义表示细化,并且能够将上下文的语义考虑进去,这使得Encoder能够全面理解并考虑上下文的全局信息,增强了单词和上下文的连接,使模型不再只关注局部重要信息,从而使抽取的摘要句能够更加全面地表示文档信息。在LCSTS数据集上的实验表明,提出模型的Rouge分数在Rouge-1、Rouge-2、Rouge-L上比基线模型平均高出3个百分点。该算法能够使模型在关注重要信息的同时,也关注全局信息,减少了信息冗余,使生成的摘要表达的信息更加全面。3)提出了一种基于正则化语义损失的生成式文本摘要模型。预训练模型越来越受到关注,为了进一步探索更有效的生成式摘要模型,利用预训练模型帮助更好地捕捉文档语义。首先,模型构建在生成式的预训练语言模型BART上,通过对每个文档进行复制后输入模型,之后输出两个不同的分布,通过负对数似然损失函数进行训练。然后提出一种基于Dropout的正则化语义损失函数,对两个分布进行最大化余弦相似度度量,使两个分布尽可能地相近,更新模型参数。最后,通过集束搜索进行解码,生成摘要。在CNN/Daily Mail数据集上的实验表明,提出模型的Rouge分数比BART预训练模型在Rouge-1,Rouge-2,Rouge-L均有所提升,分别提升了1.80%,0.88%,1.81%。利用预训练模型的优势,该算法又进一步提升了生成式文本摘要方法的效果。