【摘 要】
：
本文旨在探讨注意力机制如何帮助推荐模型动态关注有助于执行当前推荐任务的输入的特定部分。首先分析注意力机制网络框架及其输入数据的权重计算方法，然后分别从标准注意力机制、协同注意力机制、自注意力机制、层级注意力机制和多头注意力机制这5个角度出发，归纳分析其如何采用关键策略、算法或技术来计算当前输入数据的权重，并通过计算出的权重以使推荐模型可以在推荐任务的每个步骤上专注于输入的必要部分，从而产生更为有效
【基金项目】
：
国家自然科学基金项目“面向数据演化的增量实体解析方法研究”（71761008）； 广西科技计划项目“基于深度学习的用户画像构建方法研究”（桂科AD19245122）； 桂林理工大学科研启动基金项目“用户画像构建方法研究”（GUTQDJJ2016020）的研究成果之一；
论文部分内容阅读
本文旨在探讨注意力机制如何帮助推荐模型动态关注有助于执行当前推荐任务的输入的特定部分。首先分析注意力机制网络框架及其输入数据的权重计算方法，然后分别从标准注意力机制、协同注意力机制、自注意力机制、层级注意力机制和多头注意力机制这5个角度出发，归纳分析其如何采用关键策略、算法或技术来计算当前输入数据的权重，并通过计算出的权重以使推荐模型可以在推荐任务的每个步骤上专注于输入的必要部分，从而产生更为有效的用户或物品特征表示，进而提高推荐模型的运行效率、泛化能力等。注意力机制可以帮助推荐模型对输入的每个部分赋予不同的权重，抽取出更加关键及重要的信息，使推荐模型做出更加准确的判断，同时不会对推荐模型的计算和存储带来更大的开销。尽管现有融合注意力机制的深度学习推荐模型能在一定程度上满足大部分推荐任务的需求，但可以肯定的是，在特定情况下人类需求的不确定性、信息的爆炸式增长这两个因素，将使得其仍然面临着推荐多样性、推荐可解释性和多种辅助信息融合等方面的挑战。
其他文献
与健康相关的生活质量（HRQoL）越来越多地被用作评估糖尿病干预措施有效性的重要结果指标。评估2型糖尿病老年人与健康有关的生活质量是一个重要问题,因为它比健康人的生活质量差得多。与世界上许多其他国家一样,越南糖尿病患者的比例正在迅速增加。如果发达国家需要几十年,甚至几百年才能从人口老龄化时期过渡到人口老龄化时期,越南将需要不到二十年的时间。可以说,强大的人口结构转型给越南社会带来了巨大的挑战..农
电弧焊是当今业界使用最广泛的连接技术。电弧焊特别是气体保护金属电弧焊（GMAW）和脉冲GMAW（GMAW-P）主要应用于汽车制造业和轻型制造业。对于金属板焊接,大多数焊接采用单侧搭接接头或T型接头。高速脉冲GMAW焊接可以提高焊接的工作效率,但在实际生产中存在焊接速度的阈值极限,超过该阈值极限焊缝会隆起波状轮廓的缺陷和沿焊缝方向的沟槽。由于隆起缺陷的形成,焊接质量受极大的影响,限制了焊接效率的提升
中国城乡发展不平衡与乡村发展不充分已成为一个突出的结构性矛盾,借鉴世界乡村复兴的成功经验有着内在的必要性。文章以"嵌入性"为分析视角,基于政策文本分析,从"政策—空间—技术"三大维度重点考察了法国乡村建设的行动逻辑。研究发现,法国乡村建设主要遵循三条规律:在本原性层次上,通过多元化的"政策嵌入"营造积极的乡村复兴环境,进而达到清除弊害政策、破解建设壁垒以及增强乡村复兴内在动力的目的;在实践性维度上
2018年中共中央发布《深化党和国家机构改革方案》,首次提出税务部门除了具体承担所辖区域内各项税收以外,也将逐步承接原本由财政等部门承担的非税收入征管职责。随之《国税地税征管体制改革方案》出台,决定从2019年起部分非税收入项目开始划转至税务部门。当前,非税收入的征管职责正在由财政等部门转为税务部门征收,而非税收入管理法制化是国家治理体系和治理能力现代化的必然要求。本文从非税收入管理法制化的阶段演
目的 系统评价我国慢性阻塞性肺疾病（chronic obstructive pulmonary disease,COPD）患者骨质疏松（osteoporsis,OP）患病率情况。方法 计算机检索PubMed、Embase、Web of science、中国知网、万方等数据库,收集有关中国COPD患者OP患病率的相关文献,检索时限均为建库至2021年3月。由2名研究人员独立完成文献筛选、数据提取以及
目的:翼状胬肉是一种侵袭性增生,是角膜上皮细胞过度增殖的结果。分化治疗近年来引起了人们的广泛关注。本研究的目的是从翼状胬肉中鉴定干细胞,并检测翼状胬肉干细胞的分化策略。分化疗法的概念来源于激素、细胞因子或不同分化剂可以促进分化,并且可以不可逆地改变细胞表型。本文简要地介绍了几篇文献和研究,以证明目前的目标,即分化治疗在治疗多种临床疾病中能够发挥关键和有前途的作用。方法:应用体外原代培养技术获得胬肉
作为一种新型两端点质量元件,惯容器的提出弥补了车辆传统悬架系统基于“弹簧-阻尼器”构成的机械网络中质量阻抗缺失的不足,为车辆悬架性能的提升提供了新的理论基础,成为车辆工程和振动控制领域研究热点。基于机电相似理论,“惯容器（Inerter）-弹簧（Spring）-阻尼器（Damper）”构成的车辆被动ISD悬架,是一个典型的无源机械网络系统,质量阻抗的引入可显著改善悬架系统在低频段的振动传递特性,但
为提高葡萄种植区遥感识别精度，基于高分二号卫星遥感影像，对U-Net网络进行改进：从空间和通道维度自适应校准特征映射，以增强有意义的特征，抑制不相关的特征，提升地物边缘分割精度；减少下采样次数，使用混合扩张卷积代替常规卷积操作，以增大卷积核感受野，降低图像分辨率的损失，提高对不同尺寸地物的识别能力。实验结果表明，本文模型在测试集上的像素准确率、平均交并比和频权交并比分别为96.56%、93.11%
针对传统故障诊断方法需要人工提取特征的不足，以及大数据下滚动轴承故障振动信号自适应特征提取与智能诊断问题，利用空洞卷积神经网络（DCNN）可以在不增加计算量的基础上兼顾不同尺度空间特征的能力、门控循环单元（GRU）善于从动态变化的序列数据中学习到时间上的关联性的能力，提出了一种将DCNN、注意力机制和GRU多路径融合的端到端故障诊断方法。首先利用DCNN从原始数据中自动提取时序信号特征，然后将注意