推荐算法在信息过载时代扮演着至关重要的角色。一方面,用户可以借助推荐算法从海量信息中寻找到自己感兴趣的事物;另一方面,信息提供者也能借助推荐算法使生产出的信息得到广泛的关注。然而现有的推荐算法的性能常常受限于以下问题:（1）数据稀疏问题:用户交互过的物品通常只占总物品数的一小部分,因此用于记录用户与物品交互的矩阵中大部分元素都处于缺失状态。此现象导致的数据稀疏性问题会增加模型对用户和物品建模的难度。（2）无法充分学习表征问题:用户的评论质量良莠不齐。不充分的数据清洗会导致数据集中仍然存在不切题、信息量贫瘠的评论;同时评论之间通常也隐含着错综复杂的关联信息。从低质量的、未考虑相关性的评论数据中学习到的表征无法精确表达用户偏好和物品特征。（3）静态学习问题:一个用户所有评论的主题是异质的,即一个用户的所有评论通常包含了此用户对不同种类物品的偏好;而一个物品所有评论的主题是同质的,即一个物品的所有评论通常都在描述此物品本身的特征。这种用户和物品评论的差异,若使用完全平行的网络建模,将导致静态学习问题。针对上述问题本文的主要研究内容如下:（1）针对数据稀疏问题,本研究提出的两种模型均同时考虑了评分信息和评论信息。由于用户的文本评论是一种序列化、含有丰富语义的隐式特征,能够对评分信息进行补充,因此通过评论和评分同时进行推荐,能够在一定程度上缓解单纯利用数字评分所产生的数据稀疏性问题。（2）针对无法充分学习表征问题,本研究提出的基于Bert预训练模型的局部-全局感知注意力模型,该模型使用了两种不同层次的注意力机制对用户和物品进行建模:局部注意力机制能够考虑评论之间的内在联系;全局注意力机制能够尽可能减少劣质评论对模型性能的影响。实验表明,此模型能够获得比单纯使用评分的模型更好的性能表现,同时也优于使用传统的卷积神经网络和循环神经网络的模型,在一定程度上获得了更精确的用户和物品表征。（3）针对静态学习问题,本研究提出的基于Albert微调模型的动态双重注意力模型,在局部-全局感知注意力模型的基础之上,通过改进的全局注意力机制,解决了以往模型中由于使用完全平行的网络而导致的用户特征和物品特征无法交互的问题,通过将用户的特征矩阵与物品的特征矩阵进行注意力计算,动态地学习用户在面对不同物品时的偏好。实验表明,此模型学习到的表征更为精确且是动态的。最后,在亚马逊数据集（包含了四个子数据集）上的实验表明,本文提出的两种模型相较于基准模型（Neural CF,Deep Matrix Factorization,NARRE,DeepCLFM）均能够获得更佳的表现。