基于图像重绘的神经网络后门防御研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:gao1980623
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工智能和深度学习技术在持续的发展完善和应用领域的不断拓展中陆续暴露了一些伴生安全问题,后门攻击即一种新兴的针对深度学习模型训练阶段的对抗攻击。目前,针对后门攻击的防御研究主要归为两类,一类是基于样本过滤和模型诊断的检测后门防御策略,另一类是基于触发器重建和模型重训练的缓解后门防御策略,并取得了一定的研究成果。然而,由于模型训练过程的不透明性和数据来源的未知性,现有的防御方法仍有明显不足。例如,模型重训练依赖于对数据的先验知识以及大规模的计算资源,严重违背后门攻击的前提;触发器重建往往需要设计严密的优化算法和损失函数,防御效果取决于优化结果的好坏,难以保证较好的鲁棒性。针对上述后门防御现有问题,本文的研究内容包括:(1)针对大多数后门防御脱离实际攻防背景、单一的后门缓解策略难以保证防御性能的问题,综合考虑攻击者的威胁模型和防御者的防御能力与目标,聚焦现实化的防御场景,提出了一种轻量级的基于样本检测和输入重构联合的通用后门防御算法,从检测后门和缓解后门两方面同时抵御后门攻击。(2)针对检测后门特征选择难、依赖大量数据先验、触发器重建算法较难优化的问题,研究后门攻击的作用机理,建模后门注入模型面对不同数据输入的激活特征差异,利用少样本,构建一种基于深度模型深层特征差异的自适应检测算法;基于触发器重建的防御思路,研究了一种基于水印梯度一致性和边缘模板匹配的触发器检测与提取算法。(3)针对模型重训练数据依赖严重、后门缓解策略可实施性差的问题,利用深度模型本身的学习能力,依赖神经网络对输入数据的深度先验知识,设计了一种图到图的生成优化模型,研究基于图像重绘的单样本优化算法来恢复毒化样本,以此来缓解后门攻击。最后,本文在几种典型的后门攻击上评估了所提出的防御算法。其一,本文针对多种形式的后门攻击和触发器模式验证所提出防御策略的可行性和有效性;其二,本文在多种数据集和不同的模型结构以及不同的投毒率下进行实验验证,同时探讨不同参数设置和攻击扩展对实验结果的影响,阐述所提方法的鲁棒性和泛化性;其三,本文多维度地对比了本方法与现有两类防御策略的性能,实验结果表明本方法明显优于其他方法,证明了基于图像重绘的通用后门防御算法具有优越的防御性能和先进性。
其他文献
大视场、高分辨率成像系统作为计算成像领域中的一个重要研究热点,在区域监控、卫星侦察、生命科学等领域的需求迫切。但是目前大多数成像系统由于光学基础理论的限制和实际应用场景的复杂性,很难实现理想的成像效果。与此同时,基于广域图像拼接的成像系统虽然实现了宽视场、高分辨率的成像目标的要求,但由于其系统的成像特点不同需要通过图像拼接来获得全景图像。因此,如何在保证处理速度的前提之下,实现广域成像系统多幅图像
学位
宽带可调谐的飞秒激光对多光子显微成像、非线性光谱学及半导体计量等领域有着重大意义。传统的飞秒激光器受增益介质荧光发射谱的限制,输出波段和调谐能力有限,远不能满足这些领域的需求。而利用飞秒激光器作为泵浦源,结合光参量技术可以突破这一限制,使激光器的输出波段延伸到深紫外或中红外。特别是以Yb全固态飞秒激光器泵浦的光参量振荡器(OPO),因其结构紧凑、调谐范围广、振荡阈值低、光束质量好、成本低廉,已然成
学位
雾天条件下,成像设备采集到的图像、视频都会发生一定程度的降质,导致图像中的目标信息模糊难以辨识,对成像设备在目标检测识别与跟踪、遥感观测等领域的应用产生不良影响,因此对数字图像去雾技术的研究具有重要意义。目前去雾算法的研究取得了较大的进展,但是现有算法对光晕效应以及白亮区域的色彩失真处理仍存在不足,并且算法的计算复杂度较高,极大地限制去雾算法的工程应用。随着现场可编程逻辑门阵列(Field Pro
学位
在人类获取信息的所有途径中,视觉方式最为直观,经由视觉获取的信息量也最多。计算机的发展带来进一步的信息革命,图像作为一种信息载体已经渗透于人类社会生活的方方面面。夜晚等光照不足的环境是不可避免的现实因素,在这种环境下获取的图像总是亮度、对比度、细节可见度低,且常常伴随着颜色失真等问题,限制了图像进一步的使用与研究。本文对多种低照度图像增强方法进行了原理研究,分析了各算法的优势与不足之处。在真实的低
学位
伴随移动网络的迅速发展,手机已经成为人们上网的主要设备,其中安卓操作系统占比超过80%,安卓应用数量已经突破300万。各类安卓应用不断增加的同时,恶意软件规模也逐渐扩大,对用户个人隐私和财产造成极大威胁。研究安卓恶意软件分类能够帮助安全人员针对各类恶意软件提出更有针对性的防御手段,对于保障用户财产安全,构建移动端生态安全有着积极的作用。与传统基于特征分析的恶意软件分类方法不同,基于图像化的恶意软件
学位
为解决化石能源减少与开采难度加大以及环境污染加剧等难题,各国政府对清洁能源产业特别是清洁能源汽车产业的投入逐步加大。目前,清洁能源汽车主要采取电能为动力来源,动力电池则是提供动力的主体,其相关研究备受业界和学界关注。然而,动力电池的研究横跨电化学、凝聚态物理、自动化、数学等多个学科,已成为研究热点和难点。尤其是在动力电池建模理论研究方面,目前多采用传统的整数阶方法,模型精度低。事实上,动力电池本质
学位
在复杂大气环境中红外探测成像系统的性能必然出现退化,为使红外探测成像系统能应用于各种复杂大气环境中,有必要基于特定探测环境条件下经过优化设计后的成像系统性能推演复杂大气环境下成像系统性能。本文针对复杂大气环境下红外探测成像性能推演的实际应用需求,基于红外辐射传输理论,对复杂大气环境下的红外辐射传输机理、目标背景对比度精确建模、外场性能评估模型修正等关键问题展开研究。主要研究工作如下:(1)红外探测
学位
场景中高于绝对零度的物体能够向外发出红外辐射,红外成像系统能够将人眼不可见的红外辐射,转化为可见光图像,供人眼进行观察,且红外成像系统以被动方式工作,具有隐蔽性和全天时工作的特点,在许多领域都得到了广泛应用。但由于红外成像系统输出图像为高动态范围图像,难以在传统低动态范围显示设备上显示,且图像具有灰度分布集中、细节反差小、对比度低等问题。为了解决这些问题,提供更好的便于观察的红外图像,研究压缩红外
学位
采用激光直写技术可在聚酰亚胺薄膜(PI)上一步获得具有图案化、高孔隙率和高电导率的激光诱导石墨烯(LIG),该技术具有速度快、成本低以及环境友好等特点。但目前LIG技术的研究多基于商业聚酰亚胺(PI)薄膜上的直接生长,PI衬底去除以及三维石墨烯转移技术一直是限制其应用的主要瓶颈问题。针对该问题,本文提出以染料协助PI热塑液的新方法,结合一步激光诱导技术,实现了在绝缘衬底、导电薄膜衬底以及柔性衬底上
学位
推荐方法作为一种个性化的信息过滤工具,能够有效缓解智慧城市中的信息过载。但传统的推荐方法只能在单个领域中进行推荐,难以满足智慧城市中跨部门、跨业务的服务推荐需求。跨域推荐方法能够借助其它领域中的信息,辅助目标域进行推荐,解决冷启动和数据稀疏问题,从而有效满足用户多样化的需求。本文从跨域捆绑推荐和隐私保护跨域联邦推荐两个方面开展研究,实现不同领域信息的有效利用和需求的精准匹配。针对现有跨域推荐方法仅
学位