随着互联网和智能手机的发展,人们对新闻信息的需求更加个性化,传统的基于新闻标题关键词匹配的推荐方式,没有从语义上做分析,所以推荐的可能不是用户感兴趣的一类新闻。本文尝试从文本相似度的角度分析新闻标题语义信息,由于新闻内容篇幅较长,通常会有很多对分析结果无关的内容,会对判断精度产生影响,而且若对新闻内容进行相似度计算,会形成的较大的词向量矩阵,导致计算量过大,难以实现,不符合生产环境的要求。因此本文利用BERT预训练模型表示新闻标题语义特征计算新闻标题相似度并做推荐,针对传统文本相似度计算方法利用人工提取的特征信息计算相似度的方式中,存在的人力资源消耗大、信息提取不准确、对词典依赖性大等问题,以及基于LSTM的相似度计算模型适用于处理长序列问题,对于新闻标题这类相对较短的文本信息,无法充分发挥优势的问题,提出了基于CNN的新闻标题相似度计算模型。为了提高新闻标题相似度计算的准确性,本文分别从特征表示、特征提取和模型训练三个方面进行了改进,具体的工作如下:（1）特征表示:针对利用传统词向量模型表示文本信息时,不能关注上下文信息而造成的无法处理一词多义的问题,本文提出在CNN模型的基础上,结合BERT预训练模型训练词向量,构建新闻标题相似度计算模型。（2）特征提取:针对利用卷积神经网络对新闻标题进行特征提取时,忽略了每个标题自身的关键特征及标题之间的交互特征信息,导致特征提取不全面的问题,本文在基于CNN的新闻标题相似度计算模型的基础上分别引入自注意力和双向注意力机制。（3）模型训练:针对模型在训练过程中出现梯度消失、神经元死亡、均值偏移、收敛速度慢、稀疏表达能力弱的问题,分析常用激活函数特性,构建了新的激活函数SPReLU并将其应用在本文提出的相似度计算模型中。为了验证本文构建的新闻标题相似度计算模型的有效性,本文在不同数据集上进行验实验,结果表明,结合BERT预训练语言模型的相似度计算方法效果相对较好,同时引入多注意力机制的相似度计算模型的准确率和F1-值都有一定的提高。最后使用SPReLU激活函数的相似度计算模型,一定程度上提高了模型的收敛速度和准确性,性能上也有一定提升,证明了本文提出方案的有效性和可行性。