【摘 要】
:
深度神经网络(Deep Neural Networks,DNNs)作为机器学习领域中的技术之一,被广泛地应用于计算机视觉、自然语言处理等领域。然而,蓬勃发展的深度学习技术使数据安全与隐私面临更加严峻的挑战。在推理阶段,用户不愿意泄露个人隐私数据,模型拥有者不愿意与他人共享其花费高昂代价训练获得的模型等;在训练阶段,一个高精度的DNNs模型训练往往需要大量的高质量数据作为支撑等。除此之外,随着大数据
论文部分内容阅读
深度神经网络(Deep Neural Networks,DNNs)作为机器学习领域中的技术之一,被广泛地应用于计算机视觉、自然语言处理等领域。然而,蓬勃发展的深度学习技术使数据安全与隐私面临更加严峻的挑战。在推理阶段,用户不愿意泄露个人隐私数据,模型拥有者不愿意与他人共享其花费高昂代价训练获得的模型等;在训练阶段,一个高精度的DNNs模型训练往往需要大量的高质量数据作为支撑等。除此之外,随着大数据时代的发展以及人们对DNNs模型性能要求的提升,使用大规模的数据集进行模型训练成为常态,对于个人用户而言,本地的计算资源和存储资源已经无法支撑模型训练。由于云计算服务拥有按需部署、灵活性高、扩展性强的特点,因此,云计算服务渐渐成为大家的首选方案。但是,云服务往往是半可信或不可信的,对于恶意云服务提供商,其不仅可以访问用户数据,还可能修改用户数据,故DNNs模型可以方便地被恶意攻击者嵌入后门。后门攻击是被训练隐藏在DNNs模型中的一种恶意行为,该行为可能对DNNs模型产生一些破坏性的后果。这使得数据隐私和安全问题面临的挑战更加突出,所以,研究一种既能够保护数据隐私又能够保护模型安全的深度神经网络方案是刻不容缓的。安全多方计算技术是保护数据隐私的理想方案,该技术允许互不信任的各方根据自己的私有输入共同计算一个公共函数同时不泄露函数输出以外的任何信息。目前已经提出了许多基于安全多方计算技术的数据隐私保护方案,但是很少有方案考虑隐私保护模型中的安全问题。由于DNNs模型的权重和偏置不易被人类所理解,所以它具有不易解释性的性质,可以将DNNs模型理解为一个内部充满了数字的黑盒。后门攻击往往因为DNNs模型的黑盒性质难以被人们发现,尤其是在隐私保护的深度神经网络方案中。本文针对被动攻击模型(半诚实敌手模型),开展DNNs模型中隐私保护的后门检测与防御研究,主要完成工作如下:(1)提出了一个关于四方参与的隐私保护深度神经网络后门攻击检测和防御协议的框架MP-BADNet。MP-BADNet不仅可以通过安全多方计算技术实现对输入数据和模型参数的隐私保护,还可以检测和识别隐私保护DNNs模型中隐藏的后门,并对含有后门的DNNs模型进行缓解。实验结果表明,该方案能够有效检测、识别和缓解隐私保护DNNs模型中的后门攻击。(2)提出了一个在外包云环境中三方参与计算的改进的隐私保护后门检测和识别框架Deep Guard。特别是,设计了一种隐私保护的逆向工程算法,用于在3台非共谋服务器中恢复触发器和检测隐私保护DNNs模型中隐藏的后门攻击。此外,还提出了一种基于DBSCAN算法的针对单标签后门攻击和多标签后门攻击的后门识别算法。最后,在MNIST、SVHN和GTSRB等常用数据集上的大量实验验证了隐私保护DNNs模型中后门检测和识别方案的有效性与效率。本文基于安全多方计算技术的隐私保护神经网络方案,在多方服务器的环境下设计了既能够保护数据及模型参数隐私,又能够检测出模型是否被后门攻击、识别具体哪个标签被攻击以及进行后门攻击缓解的后门检测与防御方案。实验结果表明,本文的研究方案不会泄露数据和模型参数的隐私,并且能够检测出隐私保护的神经网络是否被后门攻击以及对被嵌入后门的DNNs模型进行缓解。
其他文献
微动脉瘤(Microaneurysms,MAs)是糖尿病视网膜病变(Diabetic Retinopathy,DR)的早期症状表现之一,准确高效地检测出微动脉瘤的位置和大小,对糖尿病视网膜病变的诊断和治疗具有重要意义。荧光素眼底血管造影技术(Fundus Fluorescein Angiography,FFA)是当前眼底疾病诊断检查的重要手段之一,其为糖尿病视网膜病变的诊断提供了重要的数据资源。微
近年来,随着改革的不断深入、经济社会的加速转型和社会利益格局的深刻调整,人们对于环境问题的关注度和敏感度都达到了前所未有的高度,环境维权意识空前高涨,对自身生存发展与生态环境的关系更加关心,加上环境信访投诉渠道的多样化、信息化发展,环境信访投诉数量逐年上升,信访调处难度不断加大,给基层环境信访工作带来了极大的压力和挑战。环境信访事关民生和稳定,绝不仅仅是单纯的技术问题和经济问题,更是社会问题和政治
随着大数据、云计算等技术的发展,在个人计算机、移动设备上产生了大量分布式应用程序,然而传统的分布式数据处理方式已经无法满足用户对数据隐私的要求。隐私集合交集(Private Set Intersection,PSI)是隐私计算中的热点,其允许两方在不泄露任何额外信息的前提下计算交集。传统的PSI协议主要针对两方利用本地设备计算集合交集的场景,无法享受云计算技术发展带来的便利。云计算技术为用户提供了
通电加热又称欧姆加热,是一种内部热能生成的电加热技术。近年来,通电加热技术因其高能量转换率,较好的加热均匀性,快速的发热能力等优势,被逐渐运用在水产品加工研究中。其发热率取决于施加的电压梯度和水产品的导电性。南极磷虾(Euphausia superba),属于磷虾科、磷虾属虾类,是南极洲水域生态系统的一类重要生物资源。具有广阔的市场前景及开发价值。南极磷虾经捕捞后会迅速冻结由冷链运输到内陆,再进行
深海视频技术随着科技的发展已经有了长足进步,深海视频在海洋矿产资源开发、海洋生物生态研究以及深海目标对象探测与跟踪等方面起着重要作用。尽管目前国内外对视频质量评价的研究已比较成熟,然而深海视频环境不同于陆地自然视频环境,传统的视频质量主观评价方法不适用于水下视频质量主观评价。针对深海视频特性和视频质量主观评价的缺点,设计专门应用于深海视频的质量主观评价方法仍是亟待解决的问题。深海环境与自然环境相比
目的 探讨白头翁汤对葡聚糖硫酸钠(dextran sodium sulfate,DSS)诱导的溃疡性结肠炎(ulcerative colitis,UC)小鼠肠黏液屏障的保护作用以及对Notch通路的影响。方法 C57BL/6小鼠随机分为对照组、模型组、美沙拉嗪(50 mg/kg)组和白头翁汤低、高剂量(7.4、14.8 g/kg)组,对照组小鼠自由饮用纯净水,其余各组连续8 d自由饮用2.5%DS
随着多媒体技术的发展,视频图像逐渐成为现代文化传播的主流,如何评估视频和图像的质量是一个重要的课题。与此同时,面向不同领域的图像和视频质量评价方法不断发展,其中针对水下场景的质量评价方法逐渐受到学者的重视。水下视频系统在海洋环境勘测和调查、海洋科学研究、海洋工程等方面扮演越来越重要的角色,水下视频质量评价是保证水下视频可用性的基础。由于水介质中光线散射、衰减、水流干扰等造成的特殊性,传统大气环境下
<正>老年人群糖尿病患病率高,常合并多种基础疾病或代谢异常,多重用药且对药物不良反应的耐受性差,心脑血管死亡和慢性肾脏病(CKD)发生风险增加。因此,在选择降糖药物时需综合评估病人病情,加强用药指导及治疗后的监测。已有多项研究证实,钠葡萄糖协同转运蛋白-2抑制剂(sodium-glucose cotransporter-2 inhibitor, SGLT-2i)除具有良好的降糖作用外,还具有确切的
<正>普政发〔2023〕14号各县(区)人民政府,市直各委、办、局:现将《普洱市“十四五”制造业和新兴产业发展规划》印发给你们,请认真贯彻执行。2023年2月10日(此件公开发布)普洱市“十四五”制造业和新兴产业发展规划前言“十四五”时期,是衔接“两个一百年”奋斗目标,开启全面建设社会主义现代化国家新征程的重要时期,也是普洱市强力推动制造业和新兴产业发展,打造高质量发展新引擎的关键时期。“十四五”