【摘 要】
:
联邦学习可以让数据在不出本地的情况下参与模型训练,从而得到更好的模型并保护了数据和隐私安全。在《数据安全法》等旨在保护数据和隐私安全的法律法规不断出台的大背景下,联邦学习日益受到重视和广泛应用。但是联邦学习在应用过程中也容易遭到攻击,特别是后门攻击。研究联邦学习中的后门攻击方式,可以促进对于联邦学习自身安全的重视,促进联邦学习更加安全的发展。本文首先提出一种高效的正反向分裂迭代算法。本文提出的基于
论文部分内容阅读
联邦学习可以让数据在不出本地的情况下参与模型训练,从而得到更好的模型并保护了数据和隐私安全。在《数据安全法》等旨在保护数据和隐私安全的法律法规不断出台的大背景下,联邦学习日益受到重视和广泛应用。但是联邦学习在应用过程中也容易遭到攻击,特别是后门攻击。研究联邦学习中的后门攻击方式,可以促进对于联邦学习自身安全的重视,促进联邦学习更加安全的发展。本文首先提出一种高效的正反向分裂迭代算法。本文提出的基于特征的联邦学习后门攻击主要是通过正反向分裂迭代算法使得生成的攻击图片在特征上趋向于目标图片,而在外观上基本保持不变。原有的正反向分裂迭代算法使用的是基于范数的损失函数,本文提出了一种新的基于向量的损失函数,在实验比较中发现基于向量的损失函数同等条件下效果优于基于范数的损失函数。本文其次提出了基于特征的联邦学习后门攻击方案。使用CIFAR-10数据集和Res Net18模型针对以恶意参与者参与正常训练的数据作为后门和训练过程中植入后门两种不同场景进行了研究。本文提出的基于特征的联邦学习后门攻击方案主要是通过正反向分裂迭代算法使得生成的攻击图片在特征上趋向于目标图片,而在外观上基本保持不变。攻击图片在通过模型识别时由于特征上趋向于目标图片因此容易被分类为目标图片的类别,由于外观上与原始图片基本一致,这样在人工检测等方式下不容易被发现,保证了攻击的隐蔽性。特别在以恶意参与者参与正常训练的数据作为后门的场景下,恶意参与者只需要正常参与训练,不需要做恶意行为,不容易被检测机制判断为恶意参与者,从而提高了恶意参与者参与联邦学习的概率,从而增加了攻击的成功率和隐蔽性。基于特征的联邦学习后门攻击方案在上述提到的两种不同场景下分别讨论了具体的实现方式。在使用目标数据时,提出了目标特征值平均法和目标数据相近法两种方法,通过实验对两种不同的方法的实验结果进行了比较。本文最后提出了基于生成对抗网络和特征的联邦学习后门攻击方案。本文研究了如何在联邦学习中利用生成对抗网络生成指定标签的数据,并以生成的数据为目标数据,利用基于特征的攻击方法生成攻击数据,从而产生一种新的利用生成对抗网络生成攻击数据的后门攻击方法。这种攻击方式更加灵活和隐蔽。恶意参与者只需要正常参与联邦学习,不需要在训练中做任何恶意行为,提升了参与训练的概率,从而提高了攻击成功率。
其他文献
敦煌莫高窟作为世界上独具特色的人类艺术宝库之一,迄今留存了数量庞大的壁画作品。这些珍贵壁画以其独特的艺术风格和绘画方式真实生动地记录了公元4世纪至14世纪中国先民的宗教信仰、文化民俗、政治军事、自然环境等多方面的信息,具有非常重要的历史、人文、艺术和社会研究价值。长久以来,莫高窟壁画受所处地区自然环境、人类活动和气候条件等因素的影响,普遍产生了多种类型的病害,如壁画颜料层起甲、脱落、粉化、变色、褪
推荐系统包含数据挖掘技术、机器学习技术以及深度学习技术,是解决信息过载问题的最有效的工具。目前,推荐系统已被广泛的应用于各大互联网公司的服务产品中,旨在根据用户的兴趣喜好帮助用户快速的获取信息。与搜索引擎不同,推荐系统以一种主动的方式向用户展示信息,更适合用户需求模糊的场景。此外,搜索引擎不仅需要用户提供明确的信息需求,还存在着马太效应,即信息的流行程度会随着搜索量的迭代而增加,而搜索量较少的信息
随着中国经济社会的进步,机动车拥有量急剧增长,城市交通拥堵等问题越来越严重。为了有效解决交通拥堵问题,智能交通系统被广泛应用于动态交通管理中,而交通流预测作为相关交通管理部门实行管控的重要依据,一直是智能交通系统的重点研究内容。交通流预测是智能交通系统的重要组成部分,准确的交通流预测不仅能够帮助城市交通管理部门进行交通诱导和控制,还可以为出行人员提供实时的具体道路信息,提高道路通行能力。因此,对交
随着当前移动互联网技术的发展,抖音、快手等短视频平台如春笋般涌现,越来越多的用户在短视频平台上发布视频,其中包含丰富的表情信息,对这些视频中的表情信息进行识别,构建具有较强鲁棒性的人脸表情识别模型,在人机交互、情感研究等领域起到重要的作用。表情识别旨在对给定的图像或者视频中的人脸表情进行识别,是计算机视觉领域中一项困难且重要的研究热点。本文首先通过Transformer对人脸区域进行建模,对静态人
目的:观察肤痔清软膏联合口服氯雷他定片治疗慢性肛周湿疹的临床疗效。方法:选取102例慢性肛周湿疹患者,按随机数字表法分为治疗组52例与对照组50例。对照组给予单纯氯雷他定片口服治疗,治疗组在对照组基础上给予肤痔清软膏外敷治疗。2组均治疗2周。比较2组临床疗效及随访3个月、6个月复发率发生情况,比较2组治疗前后皮损症状评分、症状消失时间、血清免疫球蛋白E (IgE)的变化。结果:治疗组临床疗效为98
目前,旅游业已成为我国国民经济战略性支柱产业,尽管新冠疫情对旅游业产生较大影响,但是不可否认,旅游业在经济发展、促进就业、提高人民生活水平等方面发挥了重要作用。旅游积分服务是提升旅游服务质量、增加用户粘性、降低营销成本的一个重要手段。但是现有积分系统通常存在积分流通性差、公信力不足、维护成本高等问题。区块链是一种分布式账本数据库技术,具有不可篡改、公开透明、可溯源的技术特性,可以在产业链之间搭建分
人工智能与计算机硬件技术的快速发展,推动了计算机视觉相关任务的热潮。通过单张图片重建的人体模型在人们的日常生活中得到了广泛的应用。本文综合考虑了基于单张图片的人体姿态和体型三维重建过程中存在的时间开销、重建精度等问题,利用深度学习和人体关键点检测的相关理论与技术,并结合人体参数化模型,实现对人体姿态和体型的三维重建。最后,实现了一套非接触式人体体型测量系统。本文主要研究内容如下:(1)针对现有基于
随着社交媒体和短视频平台的爆炸式增长,越来越多的人们通过拍摄视频记录分享日常或者发表自己对于某些事物的观点和看法,由此产生了海量的多模态数据。多模态情感分析任务则是利用这些多模态数据中提取和整合的语义信息来识别其中所表达的情感和情绪。多模态数据一般包含三种模态的信息,分别是文本信息,音频信息,视觉信息。每个模态的信息都具有各自独立的情感特征,而不同模态的信息之间又存在着相互影响和联系,能够为最终的
近年来,工业物联网(IIo T)推动各种智能应用迅速崛起,在制造业、医疗保健和智能交通系统等多个领域受到了极大的关注,并成功地融入了人们生活和工作。为了节约本地服务器的存储空间和更加便于数据共享,大量工业设备将业务中产生的实时感知数据和用户的敏感信息存储到云端,这为数据的储存和计算提供了高质量的按需服务。但在数据上传、网络访问和数据共享过程中,数据泄露事件频繁发生,隐私保护问题面临严峻考验。服务器
在高光谱遥感图像的采集技术发展中,新型的高光谱传感器能够实现对光谱和空间特性连续的采集。由于高光谱图像地物特征丰富,在农业、军事和环境监测以及城市的改建规划等方面有着广阔的应用前景。降低光谱数据之间的冗余、减少数据参数量和提取高光谱图像中的空间光谱联合特征是目前高光谱图像分类研究的重要内容。近年来,深度卷积神经网络在高光谱图像分类领域成为研究的热点,但是深度卷积网络模型的构建中仍然存在对高光谱图像