基于注意力机制的广告点击率预估模型的研究与实现

来源 :东南大学 | 被引量 : 0次 | 上传用户:woheni123abc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
广告点击率是广告点击与广告展现的比率,用来衡量一条广告被用户点击的可能性,其作为互联网广告投放的一项重要指标,准确性尤为重要。精准地预估每条广告被投放后可能会被点击的概率,会影响用户、广告主和广告公司三方的利益。因此,提升点击率预估的准确性,已经成为了各大企业在内容推荐、在线广告等领域最为核心和关键的研究课题。在线广告系统中,为了提升用户体验同时最大化平台方的流量价值,要求点击率预估模型能够精准识别用户兴趣,充分利用用户偏好。在线应用中,用户的兴趣偏好可以通过用户历史行为来进行提取。因此,针对用户历史行为序列的点击率预估模型的研究也得到了越来越广泛的关注。本文深入研究了近年来主流的点击率预估模型,并在此基础上提出了一种基于注意力机制的点击率预估模型,具体工作如下:(1)由于点击率预估问题中的特征数据存在高维、稀疏、多类别的特点,人工特征组合费时费力,本文提出的模型是一种基于深度学习的点击率预估模型,能够自动学习输入特征的高阶特征交互。(2)对于用户历史行为序列的利用方面,本文设计了专门的机制处理用户历史行为,引入Pre-LN Transformer结构来分别挖掘用户历史行为中的用户历史点击行为、用户历史未点击行为和用户历史喜欢行为中的潜在关联,该结构中的多头自注意力机制可以很好地捕捉用户多样化的偏好。同时,该机制将点击行为和喜欢行为这种正反馈作为指导,从用户未点击行为这种隐式负反馈信息中补充用户的正向偏好,提升模型的效果。(3)仅仅对用户行为序列建立的模型,当用户行为序列较少时,模型往往得不到很好的效果。本文提出的基于正负反馈的细粒度多交互注意力网络模型不仅考虑了用户历史行为类特征,还综合考虑了用户信息和上下文信息这些细粒度信息与候选广告进行特征交互,同时引入了注意力机制来实现低阶特征和高阶特征之间的交互。最后通过实验证明,本文提出的基于注意力机制的广告点击率预估模型能够提升点击率预估的效果。
其他文献
自RISC-V指令集架构开源公布以来,基于RISC-V架构的高性能处理器得到物联网等诸多行业的广泛应用,但是幽灵攻击的出现却在安全性方面打击了高性能RISC-V处理器。同时面向RISC-V平台的优化方案数量却少见报道,另外,这些现有优化方案也存在不足:创建可信执行环境类方案忽略同一进程内的安全性、优化指令集架构类方案需要特定的编译器来支持、优化硬件架构类方案无法在性能和硬件开销中取得平衡。为了分析
学位
学位
数字芯片设计中通常会在最小工作电压上添加电源电压保护带,即留有一定的电压余量以确保芯片在最坏情况下仍能正常工作。然而,实际工作中,最坏情况较少发生,芯片增加电压保护带却带来了额外的功率消耗。针对上述情况,一种有效的解决方案是采用自适应时钟技术在电压降产生的时候立刻调节时钟频率以降低电压降产生的影响,从而降低电源电压保护带、提升芯片能效。基于上述方案策略,本文完成了基于电压降监测的自适应调频系统设计
由于物联网、5G通信等先进技术的高速发展,无线通讯终端数目迅速增多,极大地增加了阻塞的风险。如果接收机的抗阻塞性能较差,发生了信号阻塞,那么电路的性能就会严重恶化。因此,提高接收机的抗阻塞性能,具有非常重要的意义。论文基于22nm CMOS工艺,设计了一种工作频率为2.4~5.3GHz的抗阻塞下变频混频器电路,主要由无源开关对、四相本振信号生成电路、基带电容和基带放大电路四个模块组成。由于无源开关
随着对通信速度要求的不断提高,SerDes由于其成本低、抗干扰强、传输速率高等优点,逐渐成为高速接口主流技术。然而信道的非理想特性带来的码间干扰,限制了SerDes系统速率的提升,利用均衡技术来补偿信号失真成为必经步骤。因此,SerDes系统中均衡技术的研究具有重要的应用价值。本文针对12.5Gb/s SerDes系统接收端自适应均衡器的设计,从信道的频域损耗特性出发,针对其高频衰减特性,采用连续
声呐是人们目前唯一掌握的能在海洋中展开远距离探测工作的设备,为水下目标物体的探测识别提供了坚实的数据支撑。但受到复杂海洋环境以及声信号在传播过程中存在的各种物理干扰,传统的声呐图像分割研究准确性不高,依赖特定应用环境下的噪声特点。此外,随着声呐设备广泛应用而日益庞大的声呐图像数据库,促使着传统算法改进以满足新时代在处理效率、性能和智能化等方面所提出的新要求。深度学习作为一种新型的高效率,高精度的学
斜桩群桩基础是跨海大桥、海上石油钻井平台、输电塔等大型结构常用的基础形式。这些结构在使用过程中往往会受到波浪力、波流力、风载等水平向荷载的作用,而这些荷载又会向下传递到基础上。在工程实践中,对于斜桩基础水平承载力的计算仍未有系统性的方法。鉴于此,本文开展了斜桩基础室内模型试验,研究了斜桩水平承载性状,利用ABAQUS建立有限元模型,基于模型试验提出了斜桩p-y曲线,并利用ANSYS中的APDL编写
随着物联网技术的不断发展,办公楼宇中越来越多的设备具备了接入网络的能力,形成了由传感器和机电设备组成的大规模设备网络,管理和利用这些设备是一种挑战。为了满足灵活多变的设备控制需求,本文将规则引擎应用到了办公楼宇设备控制系统中。将现有的规则引擎产品直接应用于办公楼宇的设备控制会存在规则配置复杂、性能较差、可用性差和定时规则功能支持度低的问题。针对这些问题,本文改进了开源物联网平台Thingsboar
随着人们生活水平提高以及超高清显示技术的发展,企业和研究机构对于多媒体高速接口这一关键技术的研究越来越重视。为了使8K高帧率数据有效传输,使音视频数据在端到端之间得到合法的保护,并减轻用户对各种HDMI(High Definition Multimedia Interface)设备繁琐的操作,本文开展了对基于HDMI 2.1协议的接收端子系统实现方案的研究。本文中主要研究了FRL(Fixed Ra