面向联邦学习的生成对抗网络攻击方法研究

来源 :大连海事大学 | 被引量 : 0次 | 上传用户:a53479051
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
联邦学习是一种新的分布式深度学习框架,与传统集中式学习不同,联邦学习的参与者在训练过程中无需上传本地数据集,在一定程度上保护了数据安全。但是联邦学习系统中的隐私保护漏洞同样会导致用户的隐私泄露,在联邦学习系统中,多个参与者在本地使用私有数据集对共享模型进行训练,并将获得的模型梯度参数上传到服务器由服务器完成参数的聚合和共享。通过共享参数,多个参与者可以在不交换私有数据的情况下完成联合建模,为了达到训练全局模型的效果,参与者需要在多个迭代过程中上传梯度参数,这些参数可能包含一些与私有数据相关的信息,攻击者可以通过分析这些信息实现对参与者私有数据的重建。本文旨在研究联邦学习系统中的数据安全和隐私问题,基于生成对抗网络提出了两种由联邦学习系统服务器发起的攻击算法,准确的还原出参与者训练模型所使用的样本数据。主要的研究工作如下:(1)针对联邦学习系统中参数交换协议的隐私保护漏洞,提出了一种由服务器发起的基于生成对抗网络的被动攻击方法。在攻击模型中,服务器在本地运行生成对抗网络,在不直接接触原始数据的前提下,将参与者上传的参数输入到生成对抗网络进行对抗性训练,生成与参与者私有数据相似的样本。服务器按照联邦学习协议完成参数的聚合和共享任务,在不影响联邦学习系统共享模型准确率的情况下,实现对联邦学习参与者的隐私攻击。(2)根据生成对抗网络和联邦学习系统工作原理,提出了一种由服务器发起的基于生成对抗网络的主动攻击方法。在攻击模型中,生成对抗网络被调整为分布式系统,服务器运行生成器网络,参与者在不知情的情况下运行判别器网络,判别器网络和生成器网络通过参数交换更新网络模型,实现对联邦学习参与者的隐私攻击。(3)基于MINST和AT&T数据集对本文提出的算法进行了实验,通过对实验结果的分析和其他算法的对比,验证了本文算法的有效性。
其他文献
<正>课堂教学,必须真正做到教师在整个教学活动中的主导作用和学生在学习过程中的主体作用。数学的教学过程是教师的"教"和学生的"学"的双边统一的活动过程,是教师通过数学教学活动促使学生顺利进行数学学习活动的过程。是学生的认知结构的形成和发展的过程。我认为课堂教学应当做好以下几个方面:一、创设学习情境,激发学习兴趣要使数学课上得生动,具有吸引力,能扣动学生的心弦,激发他们的学习兴趣,除了要目标明确,条
会议
“车窗抛物”是指驾驶员和乘车人员从车内向外乱扔杂物的不文明行为,是最普遍的驾驶陋习之一。“车窗抛物”不仅会使周边环境恶化,而且可能引发一系列交通安全事故,已经成为中国进入汽车社会的一大公害行为。近年来,“车窗抛物”问题引起了社会各界的广泛关注,各地交通管理部门也已将其列为重点查处的违法行为,但是仍然屡禁不止。究其原因,一方面是还存在宣传教育不够,部分驾驶员文明意识、安全意识比较淡薄等问题;另一方面
学位
报纸
随着信息技术在日常生活中的广泛应用,在互联网发表评论已经成为人们表达观点、分享信息和传递经验的重要途径。传统的粗粒度情感分析仅能给出评论整体的情感极性,无法对其包含的各个方面所对应的情感极性进行识别和分类,方面级情感分析技术应运而生。方面级情感分析可以挖掘出不同的评论对象分别具有的情感极性,能够提供更深入、更具体的结果,对商家和社会组织等制定决策有重要意义。因此,方面级情感分析具有更高的理论研究意
学位
<正>科幻电影《流浪地球》描述了地球因为太阳系即将出现的变化,停止了自转,从而导致地球地表环境急剧恶化,高温、暴雨、寒潮、风暴等极端天气频繁发生,海平面上升导致大片土地被淹没……地表环境已不宜人类居住,通过抽签,35亿人进入了地下城。在现实生活中,我们所处的城市遍布着一处处防空避难设施,这些设施无论在平时还是战时,都守卫着市民的安全。
期刊
设计模式广泛应用于软件开发中,是针对软件开发常出现的问题,总结出处理软件复杂逻辑的方案,同时提供优秀的软件架构。设计模式可以有效提高面向对象系统的开发人员的工作效率,并且提高面向对象程序的可维护性和可靠性。然而,当开发的文档记录不够充分或过时,设计模式在目标系统的使用情况就会丢失,开发人员无法利用已有的设计模式进行理解或者重构程序。因此,在面向对象的系统源代码中,识别出已使用的设计模式具有重要意义
学位
群智能优化算法源于启发式算法的一个重要分支,其主要思想是效仿生物种群的优胜劣汰行为来解决结构复杂的优化问题。近几年来,群智能优化算法在理论研究和现实应用方面表现突出,逐步成为研究的热点问题,但随着科研领域和工程实践领域优化问题规模地不断扩大,传统单一的群智能优化算法已经无法计算出令人满意的结果,因此混合群智能优化算法已成为该领域的主体发展方向,然而在工程优化领域中,混合群智能优化算法通常受到时间约
学位
生物医学实体关系抽取作为信息抽取的一项基础任务,对于构建生物医学问答系统以及知识图谱等提供重要的理论基础和应用价值。目前业界实体关系抽取通常采用流水线方法,将命名实体识别和关系抽取作为两个独立子任务进行,这种方法将会造成误差传播、实体冗余、交互缺失等问题,而且在实际生物医学信息抽取过程中,由于命名实体识别作为关系抽取的基础,两者关系密切,命名实体识别的结果将极大影响关系抽取的结果。因此本文采用联合
学位
随着信息技术的高速发展,互联网上产生的文本数量剧增,文本的分类任务也变得越来越复杂。多标签文本分类作为自然语言处理领域经典并且十分重要的问题,在信息检索、情感分析、对话系统等领域都有着非常广泛的应用。将多标签文本分类问题看作序列生成问题这一思路的提出,极大地推动了多标签分类的研究进程,但其中存在文本特征提取不足、标签与标签之间的关联性挖掘不足及“误差传递”等问题。因此,本文对Seq2Seq模型的改
学位
船舶因其载重量大、运费低廉、通行能力强及环保等特点,一直是全球经济发展的主要交通工具,在经济发展中具有举足轻重的地位。随着海上交通的快速发展,沿海水域已经成为海上交通密度最高的地区之一,这对海上交通智能化提出了更高的要求。航线规划为船舶智能化提供了一种通用的解决方案。现有的沿海船舶航线规划方法由于存在规划出来的航线离障碍物近、拐点较多等问题不能应用于实际海洋环境。本文在对目前沿海船舶航线规划的现状
学位