多方深度学习框架下的隐私保护问题的研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:asdfghjka
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习在许多领域取得了令人瞩目的成功,其达到的效果在很多应用上已接近甚至超过人类。而深度学习能取得好效果的一个前提条件是要获取海量可用数据用于模型训练。常规的做法是从各个来源把数据集中收集起来,达到一定规模后用于模型训练。但是从多个来源收据数据可能会带来隐私问题。数据一旦被集中收集起来,就可能被永久存储,还可能被用于原始数据拥有者不了解的目的。通常来说,隐私或敏感的数据会分散在多个用户,研究机构或公司中,它们不愿意或无法彼此共享数据。如果研究人员希望训练一个深度学习模型,那么他们只能用自己的数据进行训练。然而,一个机构拥有的数据可能是非常有限的,这将导致训练的深度学习模型过拟合,得不到良好的效果。因此出现了多方深度学习来解决这种数据分散但不能相互共享的问题。在多方深度学习的场景中,多个参与者利用一个中央服务器来联合训练一个深度学习模型,以实现共同的训练目标而不需要直接共享他们的隐私数据。尽管这种模型使得攻击者无法直接访问隐私数据,但仍可以通过某些技术间接暴露其隐私数据。在最近几年,针对多方深度学习场景上的隐私问题已经取得了相当大的进展,但仍存在一些问题。第一个问题是,在没有一个所有参与者都信任的管理者的情况下,大多数现有的多方深度学习框架无法同时抵御诚实但好奇的参与者以及诚实但好奇的服务器的攻击。另一个问题是,现有框架在应用差分隐私技术来保护隐私时,会消耗大量的隐私预算,从而导致隐私泄露的风险很高。本文主要解决多方深度学习场景中的这两个问题,为了解决目前的框架无法同时抵御诚实但好奇的参与者以及诚实但好奇的服务器的攻击这个问题,我们设计了一个新的多方深度学习框架,该框架利用了差分隐私技术以及同态加密技术,以防止隐私泄露给其他参与者或者中央服务器,而且不需要所有参与者信任的管理者。为了缓解隐私预算消耗过高这一问题,我们提出了三种在每代动态分配隐私预算的策略,该策略可以在不影响模型效用的前提下进一步增强隐私保障。此外,它为参与者提供了一个直观的策略选择,通过选择不同的策略在隐私等级和训练效率之间取得平衡。理论分析和实验评估都证明了我们提出的新框架以及动态分配隐私预算策略的良好性能。
其他文献
海洋可控源电磁法通过多年的不断发展,已被全球的地球物理勘探工作者广泛应用于天然气水合物和海底油气资源的勘查,方法的有效性得到了充分的验证。随着海洋可控源电磁方法在海上应用的增多,有些技术细节问题逐渐凸显。在进行海洋可控源电磁探测时,为了采集得到良好的具有一致性的海底电磁数据,要求拖曳过程中的发射机离底高度能够稳定在一定范围内。为了解决这一问题,本文介绍了一种基于深度学习的海洋大功率电磁发射机拖体和
我国风电企业经过快速发展,已经进入产业化,市场竞争愈发激烈,随着我国工业与经济的快速发展,对能源的需求性与依赖性不断提高,我国面临着燃料储备日益减少的危机,高效利用可再生能源已然成为发展趋势,风电企业将成为可再生能源企业的绝对主力之一。风电企业要想在市场中脱颖而出离不开资金支持,但是目前金融机构贷款政策较为严格,导致负债占比较大的风电企业融资、筹资困难,难以发展扩张,而信用评价可以促进金融机构及投
随着科学技术的发展,工业生产和科学实验对温度控制的要求不断提高,研制高精度温控系统是相关技术发展的必然要求。尤其在光学领域,由于其应用范围进一步拓宽,固体激光器、太赫兹波、面源黑体等方面的发展越来越受关注。在上述领域中,温度是影响系统输出性能的关键因素之一,温度的细微变化将会导致光学晶体内部产生多种热效应,从而影响系统的输出性能,还会对系统的使用寿命造成影响。因此,设计一套可以满足上述高精度温度控
市场对选矿厂精矿产品质量日益严格的情况下,浮选过程作为选矿厂选矿过程的核心环节,浮选过程中药剂添加制度决定着有用矿物富集效果的好坏。本文研究的目的和意义在于提高选矿厂经济效益,随着市场铜精矿价格的变化,会存在一个经济价值最优的平衡点,根据矿石性质的变化,通过预测浮选药剂的添加量来确定铜精矿最合理的品位和回收率。浮选指标达到一定程度时,精矿的品位和回收率存在矛盾,当精矿品位升高时,精矿回收率会有所下
军民融合企业作为我国经济重要的知识产权实体和创新驱动主体,在推进军民融合深度发展中扮演着基础性甚至决定性的角色。创新是军民融合企业发展的最核心动力,其研发创新水平不仅关系到自身的发展,更关乎我国国家安全和发展全局。如果军民融合企业创新能力无法与社会发展匹配,不仅会给企业造成重大损失,更会给国家带来不可估计的风险。创新的发展又依赖于企业资金支持,然而,我国军民融合企业融资结构不合理、成本高、风险大等
在“互联网+”时代,物联网产业逐渐呈现爆发式增长,并逐渐应用于多个行业领域,包括工业、交通运输业、智能门锁、燃气抄表、视频监控等各领域,市场对物联网终端的需求量也日益增加,实现人与物的大连接,甚至物与物的大连接时代即将到来。然而在物联网迅猛发展的同时,物联网安全成了产业痛点。物联网安全事件频发,既是挑战也同时蕴藏着巨大的商业机会,吸引了产业链上下游大批市场玩家,有一类是产业链上下游厂商在基于原有产
随着我国经济和社会的近年来的高速发展,城市化率也越来越高。从社会结构上看,越来越多的农村人口将逐步转变为城镇人口,这为我国的城市发展带来了巨大的发展动力,同时也带来了各种问题,其中就有因为城市快速扩张所带来的交通拥堵问题和越发增多的道路安全问题。为了解决当下所面临的交通拥堵和道路安全问题,交通系统的智能化不可避免地受到了重视。智能交通系统包括无人驾驶技术要进入实用阶段,最重要的一点就是要能够将道路
随着社会经济的发展,廉政风险防控成为当前党风廉政建设中一个新的课题和挑战,作为国家治理体系现代化的一项重要内容,反腐败和廉政建设水平是检验一个国家或政党现代化程度的重要标识。开展廉政风险防控研究,就是针对因教育、制度、监督不到位和党员干部不自律,而发生腐败行为的可能性进行有效防范,是坚持反腐倡廉、标本兼治、注重预防的重要举措。本文以佳木斯市A区税务局为研究对象,首先,针对佳木斯市A区税务局廉政风险
改革开放以来,我国将水务环保改革作为一项重要任务,改革的进程不断加快。水务环保市场不再是国有垄断模式,社会以及民营资本也不断渗透其中。ST集团便是在国有水务市场化条件机制下产生的。近年来,水务环保行业内的兼并收购业务不断增多,水务环保市场的竞争愈发激烈。ST集团乘着国家政策改革的东风,应运成立。对于国有资本控股的ST集团,如何在市场经济浪潮中抓住机遇,不断创新,立足山东实现发展跨越,已经成为ST集
毛里求斯作为非洲“一带一路”倡议积极参与国之一,近年来选择汉语学习的国民数量一直呈上升态势。本研究从国家汉办赴毛里求斯甘地学院附属中学任教的汉语教师志愿者视角出发,采用了深度访谈、课堂观察等研究方法,收集了汉语教学课堂的真实语料和教学案例,从中选择了五个不同母语背景和不同文化信仰的个案对象进行分析研究。本研究的目的在于:一是调查个案对象的汉语学习意图和影响因素;二是分析个案对象的汉语课堂学习特点;