基于注意力机制与用户兴趣的序列推荐模型研究与实现

来源 :桂林理工大学 | 被引量 : 0次 | 上传用户:clvic
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络数据的激烈增长,推荐系统已经成为各种在线应用程序中的重要组件,也在人们日常生活中担当着不可或缺的角色。传统的推荐系统主要是根据用户长期历史行为以及用户各种属性信息进行静态建模,着重于从用户与物品交互中发掘其静态关联。然而在日常生活中,用户偏好的演变决定着未来购买物品的趋势,并且用户的兴趣偏好和物品热度基本上都是随着时间的流逝而改变。序列推荐试图通过对用户的序列行为信息进行建模,并侧重关注用户与物品之间的交互,考虑序列之间的相关性,再按时间顺序对交互进行排序,捕捉用户的长期偏好和短期偏好。注意力机制作为一种资源分配方案,它强调输入的各部分对输出的影响程度不一样,将有限的计算资源用来处理更重要的信息。近年来该机制在序列推荐系统中也被广泛使用,是解决信息超载问题的主要手段之一。但现在大多数基于注意力机制的推荐算法通常都忽视了用户兴趣偏好的不确定性,且对用户序列行为中物品到物品之间的协同传递性不太重视。本文的主要工作如下:(1)提出一种融合用户兴趣,且具有协同传递特性的注意力机制的序列推荐模型Mac Seq Rec(Multi-head Attention Coordination Sequence Recommendation)。该模型基于多头注意力机制,通过建模用户最近历史序列行为,得到用户短期兴趣的表示。同时设计了具有协同传递性的注意力机制,通过该机制对长期序列行为进行建模,得到用户长期兴趣的表示。最终加权融合长短期兴趣,形成用户的兴趣偏好。实验结果显示,所提出的模型在平均倒数排名(MRR)(Mean Reciprocal Rank)、归一化折损累计增益(NDCG)(Normalized Discounted Cummulative Gain)以及命中率(HR)(Hit Rate)上优于其他方法。(2)基于上述序列推荐模型,设计实现了基于微信小程序端的电影推荐系统。本系统通过对用户与电影的各种属性、以及用户最近序列行为中暗含的偏好信息进行建模,采用注意力机制对最近目标属性行为进行加权,实现序列信息的有效提取,融合用户历史属性与短期偏好,通过以点击的方式与微信小程序交互,实现电影的个性化推荐。
其他文献
随着航天技术和空间遥感技术的快速发展,包含地球表面各种物体的遥感图像的分辨率和可得性有了很大提高,遥感图像目标检测在农业生产、交通监测、军事侦察等领域得到广泛应用。近年来,深度学习发展迅速,为遥感图像目标检测提供了新的解决方案,并取得重要进展,包括基于候选区域的方法和基于回归的方法。前者侧重于检测精度,但检测速度较低,在实时性要求较高的情况下,有一定局限性;后者侧重于检测速度,虽精度略低,但在数据
学位
两层无线传感器网络应用于生活中的方方面面,简洁轻便的结构使其得到广泛的关注和研究。同时两层无线传感器网络也面临着隐私安全的问题,由于网络拓扑简单,使其容易受到攻击,从而导致数据信息错误。目前范围查询协议是两层无线传感器网络的研究热点之一,现如今的研究工作主要针对一维数据进行范围查询,而且在感知节点能量消耗以及隐私安全性方面仍存在不足之处。针对上述问题,本文对多维数据范围查询协议,能量节省措施和隐私
学位
为了对林地土壤资源进行合理利用,并使得种植的农作物与林地土壤类型相适应,科学有效地分析林地土壤元素必不可少。因此,本文利用广西林科院提供的广西林地土壤元素数据集对广西林地土壤进行分析,首先使用改进的多标签特征选择算法对林地土壤元素数据集进行预处理,筛选出对林地土壤分析中的重要特征,然后使用改进的MLKNN算法对土壤从肥力、类别、质地和酸碱度四个方面进行分类,最后在此基础上实现基于多标签的林地土壤元
学位
随着人工智能和大数据等技术的高速发展,金融、生物、医学、机器视觉等领域产生和存储了前所未有的大量数据,这些数据往往表现出类别分布不平衡特性,即某一类样本数量远远大于其他类别,常规分类方法通常假设类别分布平衡,因此在这类数据上性能会下降。研究者们在数据、算法等层面上针对不平衡问题进行了深入而细致的研究,提出了基于过采样、代价敏感和集成学习的不平衡分类方法。其中,过采样是通过为少数类合成新的样本来使类
学位
报纸
报纸
随着信息化时代的到来,网络信息量呈指数性的增长,如何让用户在海量的信息中精准的获取自己想要的信息已经成为了大家的共识,推荐系统的出现在一定程度上解决了这个问题。但是由于用户需求的日益多样化,仅以准确度作为推荐系统的评价指标已经不足以满足用户的需求,本课题将推荐的准确率、多样性和新颖度等指标作为推荐的评价标准,将多目标优化算法和混合推荐算法结合,充分利用不同推荐算法的优势,为用户提供更优的推荐列表。
学位
随着物联网技术的快速发展,人与人、人与物及物与物之间频繁的信息交互以及资源共享导致数据量激增,越来越多的数据集对外公开造成了隐私泄露的问题。在这种信息开放暴露的环境下,防止隐私泄露已经成为当今科研人员的研究重点之一。数据匿名技术因有着数据可用性高和安全系数高的优点常被作为隐私保护技术的一种有效手段,用以解决隐私泄露问题。本文基于数据匿名化技术提出了一种新的匿名模型和匿名算法,并基于此设计了匿名算法
学位
应制造业发展的需求,产品的小型化发展趋势是必然的。在国防军工、航空电子、医疗以及各种精密仪器领域,微细加工技术决定着行业的发展速度。微细铣削作为一种重要的微细加工方法,其具有优良的三维加工能力,并且加工效率高、生产成本相对光刻法等微加工技术显著降低。在微细切削加工中,刀具寿命以及加工精度易受到加工参数的影响。为此,本研究课题通过仿真与实验相结合,研究硬质合金微铣刀铣削紫铜时的加工参数的变化对刀具磨
学位
对于学科之间存在强耦合,关联性较大的工程问题,往往涉及多个变量。传统优化方法的解决思路是将复杂工程问题分成不同阶段进行处理,每个阶段还需要依赖人工经验对问题进行分析,这就导致了传统的优化方法在很大程度上无法准确找到满足问题一致性约束的最优解,使得整体工程的优化质量降低,设计优化成本增加。多学科设计优化(MDO)方法通过对问题进行分解,将复杂问题分解成若干个子问题,然后根据子问题的实际情况选择合适的
学位