文本填充也叫缺失文本生成,主要任务是填充文本中缺失片段的信息,是自然语言处理一个研究领域。近几年,随着深度学习的快速发展,文本填充任务取得了一定的成果。但仍然存在一些问题,例如填充文本缺失部分信息与上下文语义信息不一致,使得填充后的文本连贯性和流畅性较差。填充文本缺失部分信息存在多样性和复杂性,以及考虑语法、句法和上下文语义信息等问题,使得填充任务变得更加艰巨。针对上述存在的一些问题,本文进行了基于深度学习的文本填充算法研究。首先,对文本语义相似度工作进行了相关研究,语义是自然语言处理最核心的问题,为解决语义相似度匹配任务中信息交互不充分和语义特征损失的问题,提出了一种基于密集连接网络与多维特征融合的语义相似匹配方法。其次,在研究语义的基础上,针对文本填充过程中存在语义损失导致填充后的文本语义连贯性较差的问题,提出了一种基于预测网络与语义相似度融合损失的文本填充方法,通过交叉熵与相似度融合减小语义损失。最后,将本文提出的模型与其他模型在各种实际数据中进行测试对比,实验结果显示本文提出方法效果优于其他模型。本文的主要贡献有:1、提出了一种基于密集连接网络与多维特征融合的语义相似度文本匹配方法,使用密集连接方式可以将最底层的词嵌入特征和最高层的密集模块特征紧密连接,丰富了句子的语义特征。其次,设计了多维特征融合方式,使得模型能捕获到句子对间更多的语义信息。通过和其他文本语义匹配算法进行测试对比,模型在三个不同的任务,即自然语言推理SNLI和Sci Tail,释义识别Quora,以及蚂蚁金融四个基准数据集上进行了评估,准确率分别提高了0.3%、0.3%、0.6%和1.81%,表明本文提出的方法性能均优于其他强基线模型:（1）与传统残差连接网络方式不同,使用密集连接网络,可以将多个密集模块输出特征与原始特征（词嵌入特征）紧密连接,丰富了句子的语义特征。（2）使用多维特征融合,在基于注意力机制词级交互的基础上,将句子对间的相似性特征、差异性特征和关键性特征进行多维特征融合,使模型能够捕获到句子对间更多的语义关系。2、提出了一种基于预测网络与语义相似度融合损失的文本填充方法。预测网络采用序列到序列的神经网络模型,通过交叉熵与相似度融合减小语义损失。首先,编码端对缺失文本进行编码,得到上下文语义特征。其次,解码端使用Transformer网络对缺失文本进行填充。最后,融合了语义相似度损失,使得填充后的文本语义更加连贯和流畅。通过和其他填充方法进行测试对比,在Yelp、Grimm和NBA新闻数据集上使用不同的缺失率和屏蔽策略进行了评估,准确性和流畅性有了显著的提升。表明本文提出的方法在文本填充任务中效果明显优于其他方法:（1）预测网络由编解码两部分组成,分别为Bi-LSTM网络和Transformer网络。通过预测网络可以实现对缺失文本进行填充,在解码端Transformer网络中,多头注意力机制在文本填充过程中,可以捕获文本缺失片段的上下文语义。（2）在原交叉损失熵的基础上融合了语义相似度损失。两个损失学习到不同的语义特征,交叉熵损失学习局部的语义特征,而相似度损失学习到文本的全局语义特征,最后将两个损失加权融合作为网络的损失函数。