具有隐私保护和可验证的联邦学习技术研究

来源 :南京理工大学 | 被引量 : 0次 | 上传用户:ycgwx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为人工智能的一个分支,深度学习凭借强大的数据挖掘及建模能力被广泛用于解决数据驱动等问题。深度学习的成功受益于数据量的高速增长,以及数据的准确性。为训练出高精度模型以提高竞争力,越来越多的企业广泛收集用户数据。然而,这些被收集的数据含有用户的敏感信息,如照片、语音等,用户并不希望敏感信息被企业利有。此外,各国在加强建设隐私保护法,这进一步束缚了企业收集、训练数据,造成数据孤岛。为摆脱上述束缚,谷歌提出了一种分布式深度学习框架,即联邦学习。该框架基于数据广泛分布的现状,允许数据持有者在不透漏明文数据的情况下协作训练模型。该框架保护隐私的同时,避免了高时空复杂度密码学技术的使用。然而,联邦学习表面上保护了数据隐私,但越来越多的证据表明,共享的梯度仍携带着原始训练集的敏感信息。更严重的是,来自聚合服务器的安全威胁直接影响最终训练模型的分类效果。因此,如何保证联邦学习正常执行的情况下,保护共享梯度的隐私并验证聚合服务器返回结果的正确性成为亟待解决的问题。本文针对现阶段联邦学习隐私与可验证性作了以下研究:(1)针对现阶段联邦学习框架下线性外包训练中的数据隐私问题,本文利用联邦学习分布式结构等特点,打破原本基于随机梯度下降法训练局部模型的传统,设计了一种隐私保护联邦学习线性外包训练方案。该方案基于交替方向乘子法与套索算法实现了线性模型的安全外包训练。理论分析证明本方案依靠奇异值分解的不唯一性,实现了外包数据的隐私保护,并避免了高时空复杂度的加密等隐私保护技术的使用。实验证明本方案在保护数据隐私的情况下,实现了线性模型训练的高精度。(2)针对现阶段联邦学习中梯度安全聚合与聚合结果验证问题,本文通过引入Paillier加密算法实现梯度安全聚合保证全局模型正确更新,避免了聚合服务器从梯度中提取训练集敏感信息。为验证聚合服务器返回结果的正确性,我们利用双线性聚合签名与同态哈希设计了一种新的验证机制。理论分析与实验证明,本方案在实现梯度安全聚合与验证机制可靠性的情况下,确保了训练模型的精度。(3)针对现阶段基于同态加密的隐私保护联邦学习方案面临的共谋攻击与验证低效等问题,本文通过结合拉格朗日插值与数据盲化,实现了梯度的安全聚合以及对聚合结果正确性的轻量级验证。与现有可验证的联邦学习框架相比,本文设计的验证机制计算开销独立于参与者数量,不随参与者数量增长而增加。理论分析与实验证明,本方案能够有效抵御参与者与聚合服务器的共谋攻击,并且验证机制具有可靠性与高效性,同时保证了模型的精度。
其他文献
紧耦合阵列是一种紧密排布的阵列,利用单元之间的耦合拓展带宽,在雷达系统和无线通讯系统中均扮演着不可或缺的角色。实际工程中,一般希望采用尽可能少的天线单元如稀布阵的形式来实现阵列需要满足的性能指标,然而,紧耦合阵列对排布方式的优化在实际应用中没有文献报道,面临着很大的挑战。本文针对紧耦合阵列天线排布方式的优化,做了如下研究:提出了一种新颖的非规则紧耦合阵列的优化设计方法。引入阵列稀疏性技术,通过调整
本论文提出一种超声振动表面光整强化技术,主要对零件的表面进行强化加工,用以提高零件表面的综合性能(如表面粗糙度、表面硬度、表面残余压应力等)。超声振动表面光整强化技术是在传统挤压加工方式基础上叠加超声振动,利用超声波的物理与机械作用使超声挤压工具头在局部微小的范围内产生极大的瞬时加速度以及能量集中效应。这种作用方式可以用较小的静挤压力使零件表面金属发生塑性应变从而提升零件的表面质量,这种新型加工工
随着电力需求的不断增加和电网规模的不断扩大,保障电网安全成为一个至关重要的课题。近年来,电网中的相继故障现象时有发生,严重影响了人们的生产生活。因此,研究电力网络在相继故障情况下的鲁棒性并对其进行优化具有十分重要的意义。本文结合了网络科学和进化计算等理论,对相继故障场景下的电网脆弱性、拓扑优化以及资源分配等问题进行了一系列的研究,主要研究结果如下:(1)研究了考虑代价的混合攻击场景下电网的脆弱性。
电化学传感作为一种高效、快速、灵敏和环保的分析方法,逐渐应用于医疗检查、环境污染物监测和食品检测等各领域。为提高检测精度及扩大应用范围,新型工作电极的开发,尤其是柔性电极的新需求,已经成为电化学传感器的研究重点。其中,工作电极是决定电化学传感器性能与应用范围的核心组件。开发具有高灵敏度、高响应性及具有柔性弯曲性能的电化学传感器已经成为研究热点。这也充分体现了人们对生命健康的重视及美好生活的向往。为
近年来,人们的健康管理意识日益增强,对睡眠质量的关注度逐渐提高,日常生活中希望能够方便快捷地了解到自身的睡眠状况。为了解决人们的需求,已经有众多研究人员致力于家用型睡眠监测领域。然而传统的基于传感器、计算机视觉的感知技术存在设备昂贵、感知范围易被遮挡和侵犯隐私等问题。随着无线网络和智能终端的普及,基于Wi Fi的无线感知技术凭借其低成本、覆盖范围广以及保护隐私等优点,已经受到许多研究人员的青睐。睡
目标检测与跟踪技术一直是军事领域研究的热点问题之一,随着相关理论研究的深入和红外成像技术的发展,这一领域有了新的突破。大多数目标检测与跟踪技术都是基于单视场图像进行研究,但是单视场图像无法同时兼顾大视场的检测与小视场的跟踪,故本文寻求新的思路,在双视场成像设备上对目标检测与跟踪技术进行研究。首先,借助双视场成像的优势,本文对目标检测与跟踪算法流程进行研究,双视场中,大视场先对目标进行检测,再把检测
无人平台的目标自主跟随行为,作为机器智能的常见应用,可以适用于广泛的任务场景中。本文对复杂环境中无人平台自主跟随的关键技术进行了研究,包括目标识别与定位,以及无人平台的运动控制与避障,本文主要的研究内容与创新点如下:针对复杂环境中自主跟随平台目标识别的一致性问题,提出了一种基于稀疏点云外观模型的点云簇特征表示,将自主跟随任务中对目标的识别问题,转换为在特征空间中对环境中目标-非目标的二分类问题。针
钛合金作为一种优质的金属结构材料,具有高强度、低密度、耐腐蚀等诸多优良特性,被广泛应用于航空航天、化工医疗、汽车能源等领域,但它同时也是典型的难加工材料。论文将轴向超声振动引入到TC4钛合金的铣削加工中,通过理论、仿真、实验相结合的方法,分析对比超声振动铣削和普通铣削在加工TC4钛合金上的区别,研究超声振动对铣削力、铣削温度、切屑形态、表面粗糙度的影响规律,具体研究内容如下:首先,分析了超声振动铣
单晶金刚石纳米尺度磨削磨损过程中,磨粒的局部温度变化严重影响着道具的使用寿命和工件的表面质量。在磨损过程中磨粒整体与局部接触区的温度变化可能对磨粒硬度造成重大影响,目前温度因素对单晶纳米金刚石的摩擦磨损过程的磨损率的影响关系尚不清楚。本文采用分子动力学(MD)仿真手段,考虑体系整体温度和磨粒滑动过程中局部接触区域温度的变化,对磨粒磨损过程中的磨损量进行计算,探讨了摩擦磨损过程中的温度对磨损率的影响
现实世界中存在许多网络结构的数据集,如社交账户网络、引文网络等,而此类网络数据集又可分为同构网络和异构网络。同构网络即网络中仅有一种节点类型,而异构网络中节点类型可能有两种或两种以上。对此类网络结构数据集进行数据挖掘以及学习分析能发现许多隐藏信息,已成为近来学术界以及工业界的研究热点。然而,网络结构的数据集无法直接输入现有的数据挖掘,机器学习算法,所以对于此类数据集,一个亟待解决的问题即如何表示网