随着信息技术和互联网的快速发展,整个世界从信息匮乏走向信息过载时代。想要从海量信息中准确而又快速的为用户找到其感兴趣内容变得更加的困难。为了解决这样的问题,个性化的推荐系统应运而生。其构建方法主要有三大类:基于内容,协同过滤和混合推荐。本文主要研究协同过滤相关算法。协同过滤算法通过分析用户历史的交互行为（例如,点击和购买）并提供个性化的推荐服务。在各种协同过滤技术中,矩阵分解被广泛应用。该方法的特点是利用潜在特征向量来表示用户或物品,并将用户和物品投影到共享的潜在向量空间中。相对于矩阵分解模型中只有两种类型（用户和物品）的特征,因子分解机模型则考虑了更多的类型特征。矩阵分解和因子分解机两种算法的初始化大部分采用随机方式。这无法充分利用用户-物品（例如,点击和购买）的数据。本文针对矩阵分解和因子分解机算法的特点进行改进设计,主要围绕以下四个内容进行研究:·针对数据稀疏问题,将词向量应用于矩阵分解,提出基于神经嵌入的矩阵分解泛化模型。首先使用概率自动编码器,从用户-物品数据中生成物品的神经嵌入向量。之后,将物品向量与基于单点负采样的回归模型相结合,用回归系数表示用户的隐含特征向量。最后,将内积应用于用户和物品的潜在特征,以确定它们之间的相关性。需要指出的是,所提的方法是泛型的,可以在其框架下表达和推广矩阵分解。在本研究中,将岭回归学习应用于每个用户的潜潜在特征向量。在两个基准数据集上的实验结果表明,该模型优于其他最新的方法。·针对因子分解机难以同时获得局部和全局相关性的问题,提出基于概率自动编码器的有效因子分解机模型。传统的因子分解机模型在同时捕获用户-物品相关性的局部和全局结构方面性能较差。虽然深度神经网络已被应用于改进因子分解机,但深度网络增加了训练过程的复杂性。提出了一种基于概率自动编码器的因子分解机器模型方法来解决这一问题。该方法通过集成一个低复杂度的概率自动编码器,从用户-用户/物品-物品共现对中提取非平凡的局部结构特征。此外,它支持显式和隐式反馈数据集。在四个真实数据集上的大量实验证明了该方法的有效性。实验结果表明,在评分预测任务方面,所提方法优于现有的方法。相比较使用基于深度神经网络的模型,所提出模型方法在物品排名至少提高了 1.16%～4.37%。·针对负采样偏差及奇异值分解的随机初始化问题,提出将物品流行度作为权重因子,以及神经嵌入作为初始化的奇异值分解并用于协同过滤。奇异值分解是推荐系统中最有效的算法之一。由于奇异值分解算法的迭代性质,一个很大的挑战是初始化,它对模型的收敛性和性能有很大的影响。遗憾的是,现有的奇异值分解算法通常是以随机的方式初始化用户和物品特征,因此没有充分利用用户-物品的数据信息。针对如何开发有效的奇异值分解算法初始化方法。提出了一种通用的神经嵌入初始化框架,利用低复杂度的概率自编码神经网络初始化用户和物品的特征。该框架支持显式和隐式反馈数据集。详细阐述并讨论了本论文提出的框架的设计细节。实验结果表明,基于奇异值分解的推荐系统的初始化框架比现有的算法和文献中的其他矩阵分解方法至少提高了 2.20%～5.74%。·针对因子分解机随机初始化问题,提出神经嵌入的因子分解机模型并应用于用户响应预测。由于因子分解机模型只是线性地描述了特征间的相互作用,它们不能准确地捕捉数据的非线性复杂关系。此外,因子机模型中的随机初始化严重影响了模型的收敛性和性能。并且,因子分解机模型不能充分利用数据信息。虽然基于深度神经网络的模型最近被提出用于高级特征交互,但是训练深度结构是一个复杂的问题。为了解决这些问题,提出了一个基于神经嵌入因子分解机模型,该模型基于概率自动编码器的无监督预训练框架,有效地初始化了嵌入层。所提方法巧妙地结合了因子分解机模型在二阶特征交互建模中的良好线性和深度网络结构在建模非线性特征交互方面的优势。实验结果证明了该方法的有效性。例如,所提方法性能比未经预训练的模型至少提高了 6.99%。与基于深度网络的预训练模型相比,所提方法的测试误差至少降低了 1.02%。