基于注意力机制的双向GRU网络在用户评分预测中的应用

来源 :东北财经大学 | 被引量 : 0次 | 上传用户:little_ant2
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,电商行业发展的越来越好,并且深刻改变了人们的生活方式,网上购物已成为人们生活中不可缺少的一部分,但同时也带来了许多烦恼。现在电商网站上充斥着太多的商品,用户要花很多时间和精力才能搜索到自己想要的商品,如何快速而准确地为客户提供他们喜欢的商品成为必须要解决的问题,因此便产生了推荐系统。推荐系统可以根据用户的历史数据比如历史浏览记录、购物车记录、收藏夹记录、下单记录等信息,学习用户的偏好和需求,进而为其推荐商品。推荐系统中常用的算法是协同过滤算法,该算法依赖于“用户评分矩阵”,但是电商网站上商品巨多,而用户只会购买其中一小部分商品,导致“用户评分矩阵”十分稀疏,因此推荐效果也不理想。而协同过滤中常用的矩阵分解方法,是从评分矩阵中学习隐因子向量来分别表示用户和商品,这在一定程度上可以缓解稀疏性问题,但同样也会导致推荐不透明问题。随着电商平台上用户参与度越来越高的同时也产生了大量的用户产生内容(UGC),例如用户的社交信息、隐性用户反馈、评论文本的情感、用户对实体评论的文本内容等等。这些用户产生内容中包含着许多有价值的信息,比如对商品和服务的建议以及个人喜好等等,因此这些信息可以成为推荐系统可靠地信息来源。本文针对评分数据稀疏和推荐结果不可解释的问题,提出了一种新的用户评分预测模型:基于注意力机制的双向GRU网络,利用深度学习技术挖掘用户评论文本中的隐藏信息,与评分矩阵共同学习,缓解评分矩阵的稀疏性问题,提高评分预测的精确度。本文提出的用户评分预测模型主要包括三方面:首先,创建两个基于注意力机制的双向GRU网络,分别称为“用户注意力网络”和“商品注意力网络”,这两个网络分别对用户评论文档和商品评论文档建模,从中抽取用户特征和商品特征,以此表示用户偏好和商品特征;然后,将抽取到的文本特征引入到概率矩阵分解模型中,作为用户、商品隐因子的先验均值,以此来对概率矩阵分解模型进行正则化,使其能够在不可预见的测试数据集上有良好的表现。最后,提出一种新的优化模型参数的计算框架,不同于以往模型中通过建立一个总损失函数对所有参数同时进行训练优化,本文采用的方法是按照特定顺序迭代更新每一个参数。当一个参数更新时,其他参数固定为常数,这种优化方法很好的缓解了因参数之间的相关性而影响模型训练的问题。最后,本文采用Amazon评论数据集中的三个子类对模型进行验证。通过本文的研究工作,最终得出以下结论:(1)电商平台用户和商品总体数量巨大,但是每一个用户购买的商品总数相对来说只占很少一部分,因此导致用户-商品评分矩阵十分稀疏。而通过对数据集中评论文本长度进行分析,大部分商品的评论文本长度都高于50,这说明评论文本可以解单一评分数据的稀疏性问题,因此可以将评论文本融入到评分数据中一起进行研究分析。(2)通过采用深度学习技术对评论文本进行处理,可以获取更精确和全面的文本特征。因为双向GRU网络可以捕捉到序列中的语义信息和上下文信息,注意力机制可以获取与特定主题相关度较高的信息而忽略不太重要的信息,因此可以处理较长的文本序列。(3)采用按特定顺序迭代更新每组参数的优化方法,在一组参数进行更新时,其他所有组参数固定为一个常数值,这种迭代训练方法可以缓解参数之间的依赖性,少模型训练时间。
其他文献
近年来,如皋市以生猪、蚕桑、稻麦、蔬菜四大农业主导产业为载体,实施科技入户工程,取得了较显著的成效:提高了农民学科技、用科技的意识,从而在理论和实践上提升了主导品种、
近些年来我国经济稳定发展、金融市场监管制度不断完善、互联网使用规模不断扩大,为互联网金融行业的异军突起奠定了基础。与此同时我国利率市场化进程正在不断深化,中国人民
目的 :探讨用中西医结合疗法治疗慢性胃炎的临床效果。方法 :对近年来我院收治的164例慢性胃炎患者的临床资料进行回顾性研究。我们根据用药方案的不同将这些患者分为西药组和
土地流转带动增收在新形势下,加快推进农村集体承包土地流转工作是调整和理顺生产关系,促进生产力发展的重要举措,是促进农业增效、农民增收、实现农村经济健康发展的有效途
自2009年以来,江苏省农业科研教学推广单位与对接县(市、区)深入实施挂县强农富民工程,不断强化科教单位与地方、科技与产业、驻村专家与示范户“三个对接”升级,切实增强科技推广
随着物联网和可穿戴医疗设备的普及,功耗越来越成为电路设计的主要考量因素。对于功耗问题,主要从开源和节流两个方面来考虑。开源即增加设备的能量来源途径,如太阳能、风能、机械能,还有无处不在的无线射频能量。节流就是通过降低系统的功耗来提高设备的工作寿命,对于模拟电路设计来说,可以通过降低电源电压、设计新的电路架构等方式来实现。基准电压源电路作为给ADC、DAC等电路提供参考电压的模块,在模拟电路中是必不
成立于1949年的巴西Marcopolo(马可波罗),是世界著名专业从事客车车身制造的公司之一,目前全球设有19家子公司,Marcopolo公司于2002年就在常州设立了办事处,2005年,在江苏常州成立全
当前是我国全面落实科学发展观,加强社会主义和谐社会建设的一个重要历史时期。深刻认识时代发展对企业社会责任的新要求,树立正确的企业社会责任观,大力推进企业社会责任实践,促
江苏省阜宁县坚持把脱贫致富奔小康工程作为重大政治任务和头等民生工程,在全县推广适合县情的八种增收模式,即培植特色主导产业拉动增收、稳定就业持续增收、农业新型经营主
【正】 为了进一步推动全区业务技术练兵活动的开展,中国人民银行安阳地区中心支行于十二月十五日至十七日,在安阳市举行了一九八一年会计、出纳、储蓄三个专业、十个项目的