深度学习对抗攻击防御策略的研究与实现

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:sivi1818
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习技术在多个领域取得十分优异的成就,如计算机视觉、自然语言处理和语音处理等,越来越多的相关应用出现,这给人们的生活带来了很多便利。然而,深度学习在表现优异的同时,还存在易受攻击的缺陷。攻击方法通过在输入样本中增加一些微小的扰动,便可以让深度学习模型做出错误判断。这给深度学习应用带来了巨大的安全问题。当前,已有很多关于防御对抗攻击的研究成果出现。然而,多数防御策略只能应对特定的攻击方法,普适性比较低,另外这些防御策略多为全局过滤扰动,浪费了大量算力。因此,本文针对上述缺点,试图提出一种高效且普适性高的防御策略。本文主要从以下三个方面展开详细研究:(1)首先详细分析了多种经典对抗攻击方法,并对这些攻击方法按照攻击范围分类。从分类中抽象出不同点与共同点,发现对抗扰动中存在敏感点,敏感点的波动影响深度学习模型的分类。受此启发,我们提出一种仅过滤对抗样本中敏感点的防御策略,避免了对非敏感点的处理,减少了计算,提高了效率。(2)详细研究了寻找敏感点与过滤敏感点的方法。为了提高防御策略的普适性,我们提出了一种基于差分进化算法寻找敏感点的方法,采用黑盒的方式去寻找对抗样本中的敏感点,避免了对深度学习模型的结构、参数等的依赖,可以适用于未知模型细节时的防御,增加了普适性。我们提出新的过滤敏感点方法是将敏感点周围相邻非敏感点像素值的平均值作为敏感点新值,这种过滤方法计算简单且高效。我们通过将寻找敏感点和过滤敏感点两部分相结合构成高效且普适性较好的防御策略。(3)为了验证我们所提出的防御策略的有效性与普适性,我们分别实验了FGSM、BIM、PGD三种攻击方法在Res Net、Alex Net、Le Net三种深度学习模型和Cifar-10、MNIST两种数据集上的防御效果。实验结果表明,我们所设计的防御方法可以有效地防御住不同深度学习模型和不同数据集上的不同攻击方法的攻击,这表明我们所提出的防御策略具有一定的普适性。
其他文献
随着高校办学的规模不断扩大,日常办公数据信息量日益增多,各大高校越来越重视信息化建设工作。在“智慧校园”、“数字化校园”等新理念的影响下,高校云储备管理系统应用而
材料的耐蚀性直接关系到材料制品的使役安全性和使用寿命。铝合金具有质量轻、强度高、成形加工性优等性能优势,被广泛应用于各行各业。然而,焊接性、耐蚀性及装饰性差等主要
随着信息技术的飞速发展,数据达到前所未有的规模体量。大规模的数据在给人们的日常生活、工作来了便利的同时也产生了许多问题,这主要体现在人类的数据收集、数据组织能力和
钢铁材料的使用性能主要分为强度和韧性两大类,在钢铁材料研发过程中始终遵循一个原则:在提高材料强度的同时不损伤材料的韧性。在研发的过程中经常采用提高钢铁材料强度的方
滚动轴承以其装配方便、摩擦阻力小等优点,在航空航天,轨道交通,风力发电等大型机械中都得到了十分广泛的应用,是旋转机械设备中最重要的零部件之一,其性能状态的好坏直接影
[摘 要]近年来,在一系列政策引导下,我国制造业智能化升级发展取得了显著成绩。基于制造业智能化升级已有研究成果,通过分析发现现阶段我国制造业智能化升级还面临升级空间受到一定程度挤压、核心技术亟待突破、产业协同发展格局尚未形成以及升级环境有待进一步优化等难点和困境。对此,应从构建公平市场环境、统筹兼顾产学研协同、发挥金融集聚的产业效应、完善知识产权保护制度加快落实创新成果转化机制等方面进一步推进制造
随着国际贸易规模的扩大,海上交通运输量快速增长,在交通流较大及态势复杂的海域,易发生水上交通事故,造成人员伤亡和经济损失。基于船舶交通服务系统提供的AIS数据,提高船舶
现如今,随着我国北方大部分地区都产生了一定程度的雾霾天气,环境污染问题的治理迫在眉睫。火电厂氮氧化物的排放是造成这种污染的重要来源之一,当前氮氧化物脱除技术中选择
井壁失稳问题是钻井施工过程中一个极其复杂的问题。它会给钻井工程造成巨大的困难,不但延长了钻井周期,同时还会大大提高钻井成本。为了解决井壁失稳问题,为此需要科学钻井,
视频不仅是人类生活的重要组成部分,而且在各个领域的应用都占有关键性地位。面对视频压缩效率的亟需,下一代视频编码标准VVC、AVS3已经诞生并取得了良好的压缩效益。另一方