【摘 要】
:
随着互联网技术的快速发展与全面普及,网络中的信息以惊人的速度产生和传递,“信息爆炸”的时代已经来临。推荐系统作为信息过滤的重要手段能够有效地缓解信息过载带来的消极影响,推荐系统在不断提高用户体验的同时带来了丰厚的经济效益,其重要性也日益凸显,越来越多的研究工作专注于推荐系统中的安全性问题。推荐系统中的投毒攻击可以通过虚假欺骗数据的注入来实现操纵推荐系统的目的,这种投毒攻击严重危害了推荐系统的正常运
论文部分内容阅读
随着互联网技术的快速发展与全面普及,网络中的信息以惊人的速度产生和传递,“信息爆炸”的时代已经来临。推荐系统作为信息过滤的重要手段能够有效地缓解信息过载带来的消极影响,推荐系统在不断提高用户体验的同时带来了丰厚的经济效益,其重要性也日益凸显,越来越多的研究工作专注于推荐系统中的安全性问题。推荐系统中的投毒攻击可以通过虚假欺骗数据的注入来实现操纵推荐系统的目的,这种投毒攻击严重危害了推荐系统的正常运行,损害了正常用户的利益。近年来,国内外的研究学者针对投毒攻击提出了很多的应对方案,这些应对方案在面对现有的投毒攻击时表现并不突出,投毒攻击的不断进化和改进也是亟待解决的难题。本文首先揭示了推荐系统中的投毒攻击容易被现有算法检测到的本质原因在于攻击用户和正常用户的特征不一致。进而,本文设计出了一种新的投毒攻击算法Rec UP,它在逃避现有防御检测的同时保持一定的攻击效果。该算法利用生成对抗网络的特性,在生成攻击用户的同时模拟正常用户的特征分布,保持了两者之间的特征一致性。同时,本文精心设计了反映攻击效果的损失函数来辅助生成器的训练过程,并引进了正常用户作为模板来确保生成的用户在形为上和正常用户保持一致。实验证明Rec UP相比于现有的投毒攻击方法,能有效逃避相关检测算法的防御,同时与SOTA(State-Of-The-Art)的攻击方法保持同一水平甚至略好的攻击效果,该方法展示了当前检测方法无法应对的潜在威胁。为了应对诸如Rec UP不断改进的投毒攻击算法,本文从图的角度出发,探索正常用户和攻击用户在图结构上的异同。本文利用图嵌入技术对项目进行向量化表达,进而提取了新的特征,这些特征为现有的投毒攻击检测算法分辨正常用户和攻击用户提供了新的角度。实验验证了新特征在分辨正常用户攻击用户方面的有效性和可用性。
其他文献
近年来行人轨迹预测的研究受到广泛关注,在诸如自动驾驶、智慧城市、智能监控等计算机视觉应用中起到了关键作用。在行人轨迹预测中,行人之间以及行人和场景之间的交互都会影响行人轨迹。交互的最优构建方式也会随着环境的变化而变化,从而造成预测轨迹的不确定性。因此,如何依据环境变化建模最优交互关系是行人轨迹预测的难点。针对这一难点,目前还面临以下三个问题:一是建模对象,即建模哪些交互;二是模型结构,即在确定建模
经过数十年发展,冷冻电镜已成为研究蛋白质生化性质最有效的手段之一。通过冷冻电镜密度图构建蛋白质三维结构是该技术的最后一环。然而,该步骤目前大多由结构生物学家手动完成。为节省人力物力,本文以冷冻电镜密度图为研究对象,提出了一种基于深度学习的蛋白质三维结构预测算法。该算法主要包含三个子模块,分别是Cα原子目标检测、氨基酸目标检测和蛋白质骨架构建,具体内容如下:(1)设计了一个基于Retina Net的
场景识别是计算机视觉领域的一个经典研究问题,其中室内场景的准确识别有助于室内机器人和增强现实等应用的发展。然而室内场景通常存在空间布局多样、光照复杂以及物体相互遮挡等问题,给室内场景识别带来挑战。提供场景空间信息的深度(Depth)数据结合可以提供颜色和纹理等信息的RGB数据,为室内场景识别带来新的研究契机。因此,近年来基于RGB-D的室内场景识别得到了广泛的关注。针对基于RGB-D的室内场景识别
基于问题的教学法(Problem Based Learning,PBL)是一种以学生分享讨论为主的教学方法,该方法正被广泛应用于医学教育领域。PBL课堂教学中,教师需要提问引导、反馈并通过记录学生课堂发言情况给出评价。为保证评价客观性,教师需在课堂上记录很多内容,这对教师的要求很高。根据PBL课堂的需求,研究这类多人同屏场景下的发言行为检测问题,能自动统计学生的发言,辅助教师开展教学评价。发言行为
跨模态图文检索任务旨在挖掘图像和文本两种不同模态数据之间的对应关系,并通过一种模态的输入数据在另一种模态中检索语义相似的数据。跨模态图文检索融合了计算机视觉和自然语言处理两个领域的相关知识和技术,例如特征提取、注意力机制等等,在自然灾害预警、军事侦察、资源勘探等诸多领域都起着关键作用。跨模态图文检索不仅需要分别对图像和文本进行特征提取和理解,还需要进一步建立文本语义和视觉图像之间的关系,并在两种不
随着信息技术的发展,在线教育平台逐渐兴起,与传统课堂相比线上教学感知度较低,传统课堂中教学研究人员通常采用眼动仪收集眼动数据对学生学习行为进行测量分析,然而眼动仪不便在日常学习中推广应用,因此使用单目摄像头采集脸部图像进行视线估计成为较为常见的数据采集和行为分析方式。课程视频中幻灯片内容往往具有显著的信息传递意图,学生对课程视频的观看模式与其内容密切相关,而现有视线估计算法往往忽略了屏幕内容与视线
随着人口老龄化的加剧,对老人的安全监护逐渐成为社会的重要课题,意外跌倒是导致老人意外死亡的重要原因,若能够及时地检测出跌倒的行为,对挽救老人的生命有很大帮助。由于姿态估计提取到的人体骨架特征可以很好地编码人体的结构信息,能够帮助实现高效的跌倒检测算法。因此,本文首先对人体姿态估计的相关技术展开研究,再基于姿态估计设计一个轻量高效的跌倒检测算法,主要内容如下:(1)在姿态估计领域中,热图被广泛用于编
随着5G时代的到来,为无线通信网络中数以亿计的新接入设备提供高速、稳定的服务,成为了无线网络最迫切的需求。由于其能耗较低、易于部署、适用性强的优势,智能反射面(Intelligent Reflecting Surface,IRS)在无线通信系统优化问题中得到了广泛研究。然而,现有研究往往忽视了IRS本身的供能需求。受到无线能量传输技术的启发,本文引入无线射频能量收集技术解决实际应用场景中的IRS供
近几年来,随着人工智能技术的不断发展,人工智能现实应用场景中存在的数据孤岛和数据隐私保护问题不断暴露出来。联邦学习作为一种解决数据孤岛和数据隐私保护问题的有效解决方案,受到了广泛关注,并且在多个领域有了成功的应用。然而,联邦学习的现实应用场景中普遍存在的数据异构性问题限制着联邦学习的发展,成为联邦学习落地的阻碍。解决联邦学习数据异构性问题成为联邦学习的关键挑战。现有的联邦学习数据异构性解决方案的关
最近,研究者发现深度神经网络很容易受到对抗样本的影响,后者通过在正常样本上添加一些人眼难以察觉的微小扰动,能使神经网络对其错误分类。研究表明,部分对抗样本具有转移性,这使得攻击者在本地的源模型上制作的对抗样本可以威胁目标模型。因此,研究这类攻击方法对评估和提升深度神经网络的健壮性意义重大。传统转移攻击方法使用固定的源模型组合(称为集成模型),对正常样本(称为原始样本)迭代修改。由于计算资源有限,攻