随着互联网技术日新月异的发展,越来越多的人开始接触大数据和人工智能领域。为了处理随之产生的海量非结构化文本数据,自然语言处理（Natural Language Processing,NLP）的相关研究不断涌现。NLP的典型应用包括信息检索、聊天机器人和机器翻译,其中都涉及到句子的相似度计算,可以认为NLP的很多应用任务就是在判定两个语言单元间的语义相似度,并且随着多语言资源的不断丰富,跨语言的信息交互也愈发频繁。因此,本文主要研究单语上的句子相似度以及跨语言的句子相似度。本文创新性地提出了句子的多语义嵌入矩阵以及句子的双向语义对齐,目的是减少句子语义信息丢失和加强句子之间的语义交互;同时提出潜在单词空间的非线性映射模型来构建跨语言词向量。本文的工作内容和研究成果如下:（1）构建基于多语义嵌入矩阵加权交互的句子对语义匹配模型MSEM-WI（Multi Semantic Embedding Matrix-Weighted Interaction）。MSEM-WI是单语上的句子相似度计算模型,它在Bi LSTM（Bidirectional Long-Short Term Memory）的输出上结合注意力机制和惩罚机制,得到句子的多语义嵌入矩阵;结合语义重要性、语义相似度矩阵和语义加权正交分解进行双向的语义对齐,MSEM-WI脱离了基于单词相似度矩阵的软对齐方法;根据MSEM-WI的副产物,多语义权重矩阵,能够轻易地理解和可视化句子的相似性。MSEM-WI的多语义嵌入和双向语义对齐保证了充分编码句子的语义信息和高度的语义交互,在语义相似度数据集SICK和释义识别数据集MSRP的实验结果证实了MSEM-WI训练时间短,并取得了十分有竞争力的结果;可视化实验展示了MSEM-WI良好的可解释性;各种探索实验表明合适的Bi LSTM层数、惩罚项系数和语义数量能够提高MSEM-WI的实验性能。（2）为了提升编码性能,将MSEM-WI的Bi LSTM层替换为深层双向语言模型BERT（Bidirectional Encoder Representation from Transformer）,结合BERT强大的语言表征能力和MSEM-WI建模句子相似度的能力,进一步提升性能。本文在BERT+MSEM-WI上提出了Joint和Separate编码方式,探索BERT编码两个句子和孪生BERT的性能差别。实验表明了BERT能显著提高MSEM-WI的建模能力,在SICK和MSRP上几乎都取得了state-of-the-art的效果,也验证了Joint编码稍强于Separate编码方式。（3）构建基于潜在单词空间的非线性映射模型LWS-NLM（Latent Word SpaceNon-Linear Mapping）和跨语言句子相似度计算模型LWS-NLM+MSEM-WI。LWS-NLM学习跨语言词嵌入,分别利用两个自编码器得到源语言和目标语言的潜在单词空间,并在该空间执行非线性映射,打破了不同语言词向量的同构性假设;为了更好的指导非线性映射,LWS-NLM结合无监督中常用的循环一致性约束、输入重建约束和自学习优化,并利用小型种子词典进行有监督训练。结合LWS-NLM的跨语言词嵌入能力和MSEM-WI的句子相似度建模能力,LWS-NLM+MSEM-WI能直接学习中英文句子的相似性。单词翻译实验和消融实验证实LWS-NLM的跨语言词嵌入性能强于基于线性映射的有监督模型;CE-SICK和CE-MSRP上的中英文句子相似度计算实验和可视化分析表明LWS-NLM+MSEM-WI在双语句子相似度建模上的有效性。