【摘 要】
:
近年来,深度学习在不断地刷新着人们的生活,然而,深度神经网络迅猛发展的背后也存在着令人担忧的安全问题。近期,有学者发现深度学习中的神经网络模型很容易受到来自对抗样本的恶意攻击。对抗样本问题在图像数据、文本数据以及语音数据中都有出现,其最大的特点就是添加的恶意扰动足够小,以至于这些扰动对于观察者来说是不能够轻易察觉到的,此外,对抗样本还具有很强的迁移性,即对抗样本在使用相同数据集训练出来的不同的神经
论文部分内容阅读
近年来,深度学习在不断地刷新着人们的生活,然而,深度神经网络迅猛发展的背后也存在着令人担忧的安全问题。近期,有学者发现深度学习中的神经网络模型很容易受到来自对抗样本的恶意攻击。对抗样本问题在图像数据、文本数据以及语音数据中都有出现,其最大的特点就是添加的恶意扰动足够小,以至于这些扰动对于观察者来说是不能够轻易察觉到的,此外,对抗样本还具有很强的迁移性,即对抗样本在使用相同数据集训练出来的不同的神经网络模型中具有传递性。因此,对抗样本的存在对人工智能的发展造成了巨大的威胁,近年来,国内外的研究学者主要开展了对抗样本生成方法和对抗样本攻击防御方法的研究,其中生成方法即为如何才能构造出能够有效欺骗神经网络模型的算法,攻击防御方法即为采用什么样的措施才能使得神经网络分类器对输入的数据进行正确分类或者对不正确的输入进行拒绝分类。本文针对深度学习中图像领域内的对抗样本安全问题,设计并实现了基于图像重构的对抗样本防御模型,最后通过实验测试证明该模型能够有效的防御对抗样本攻击,主要工作如下:(1)利用图像超分辨率重建的思想,本文提出了一种基于图像重构的对抗样本防御模型(GN-CNN),主要包括数据预处理和深度卷积神经网络两个模块。数据预处理模块首先对输入的图像数据添加高斯随机噪声,之后再使用NLM方法进行去噪,从而得到低分辨率的图像数据。深度卷积神经网络模块是去噪自编码器(DAE)与超分辨率卷积神经网络(SRCNN)的结合,图像数据在经过超分辨率卷积神经网络重构后,最终输出为正常样本,实现了对抗样本的攻击防御。(2)为了减少生成训练防御模型所需对抗样本的大量时间和成本,本文直接采用训练分类模型时所用的原始干净样本,添加高斯随机噪声后,将其视为对抗样本攻击算法生成的对抗样本,用于训练防御模型。同时,本文还提出了进行防御模型性能评价的标准。(3)本文研究了FGSM、BIM、MIM、DEEPFOOL以及C&W等5种对抗样本生成方法,以及5种方法在不同超参数下生成的对抗样本对深度神经网络模型的攻击效果。同时,研究特征压缩中的去噪自编码器防御方法的攻击防御效果。通过实验,在MNIST数据集上使用FGSM、BIM、MIM、DEEPFOOL以及C&W等5种对抗样本生成方法分别攻击Le Net-5和VGG16两种分类模型,测试在无防御措施、采用DAE以及采用本文提出的GN-CNN防御模型等3种情况下对抗样本的攻击防御效果。(4)在MNIST数据集上使用FGSM、BIM、MIM、DEEPFOOL以及C&W等5种方法进行实验,用Le Net-5模型上生成的对抗样本去攻击增加了GN-CNN防御措施的VGG-16模型,测试对抗样本迁移攻击的防御效果。同时,通过实验验证了GN-CNN防御模型对干净样本分类效果的影响。(5)研究了GN-CNN模型在生成式对抗网络中的应用。将GN-CNN模型作为WGAN-GP网络的生成网络G,用于消除对抗扰动。同时,当WGAN-GP网络训练收敛后,生成网络G(即GN-CNN模型),可以获得更优的模型参数,进而更好地防御对抗样本攻击。
其他文献
伴随着人工智能技术在车辆上的应用,汽车自动驾驶将是缓解交通拥堵、减少交通事故、提高驾驶舒适性的重要手段。自动驾驶系统包括环境感知、路径规划和决策控制三个部分,其中环境感知技术为自动驾驶系统提供数据支撑。基于视觉传感器的环境感知由于具有价格低廉,结构简单等优点而被广泛应用。近年来,得益于深度学习对图像深层特征的挖掘,深度学习在视觉感知领域取得了较好的效果,目前基于深度学习的车辆识别技术和车辆跟踪技术
柴油机普遍应用于工程机械以及重型汽车上,柴油机带来的颗粒物以及NOx长久以来都是全世界科研人员的研究难点以及热点。随着排放法规的愈加严格以及石油燃料的枯竭,使人类不得不寻求替代品,而正丁醇在各种醇类燃料中脱颖而出,是柴油机极其合适的替代燃料,兼具动力性和良好的排放性。本文在一台改造的单缸机上,通过模拟增压和EGR技术调控进气状态参数,研究混合燃料理化特性对柴油机燃烧过程及排放的影响规律。研究表明:
在海上原油的开采中,油气混输技术能极大的降低开采成本,提高采油效率。混输泵作为油气混输技术的核心设备之一,其优化与设计在能源需求日益增长的当代尤为迫切。本文采用正交试验设计方法与CFD技术,以额定流量进口含气率(IGVF)为15%时的扬程和效率为优化指标。选取动叶轮中的叶片轮缘进口安放角、叶片轮缘出口安放角、轴向长度,静叶轮中的叶片进口冲角、叶片数,共5个因素进行正交试验。采用权重函数确定最终优化
相变储能技术在储能领域占有极其重要的地位,相变材料是相变储能技术的基础,在能量转换和利用过程中具有超高的体积能量密度和较窄的温度分布范围等优点,可以有效提高能源利用效率,消除能源供求在时间和空间上不匹配的矛盾。因此,相变储能技术在工业和民用领域得到了广泛应用。目前,国内外学者对相变储能技术的研究主要集中在低温和高温领域,对中温相变材料的储能过程研究较少,并且在数值模拟过程中往往忽略了固液相变材料体
贯流式水轮机组投资较小,建设周期短,具有过流量大、效率高和叶片数少等优点,被广泛的应用于低水头水力资源开发。在机组实际运行中,转轮叶片与转轮室之间存在间隙,间隙泄漏对贯流式水轮机空化内部流场会产生影响。转轮区域湍流强度增大、水头和效率降低、转轮区域能量的输运和转换降低都将严重影响贯流式水轮机组的稳定运行。因此,研究不同间隙下贯流式水轮机空化特性,掌握空化内部流场的流动规律,对于保障贯流式水力机械的
20世纪以来,高坝的建设和运行给下游河流健康带来了一定的负面影响。在大坝泄洪期间,下游水体中气体压强超过了当地的大气压强,导致总溶解气体(Total Dissolved Gas,简称TDG)过饱和现象。TDG过饱和严重威胁河流中水生生物的生存,使其患上气泡病并造成死亡。此前有研究表明,TDG过饱和水体对下游鱼类的耐受性、生长特性与生化效应存在影响,然而,我国记载TDG过饱和水体对鱼类游泳能力影响的
深部地下水利工程(如地下厂房、引水隧洞等)的开挖支护过程,是其围岩经历了应力平衡被打破到应力重分布的复杂应力作用过程,不同工程活动将带来不同的扰动强度,造成岩石力学特性不同程度的响应。处于深部的岩石其力学特性较浅部岩石差异性显著,且随着埋深与原岩应力的增加,开挖扰动作用导致的岩爆、大面积塌方等动力灾害愈发频繁,深入开展高应力深部岩石在开挖扰动作用下的力学特性研究对于安全高效开挖,预测预警工程灾害的
堆积体是地质灾害频发地区中潜在风险较大的河道障碍物,尤其以汶川地震后四川地区各流域范围内分布较为密集。当处于有利的地形条件时,堆积体在暴雨季节很可能发生失稳成为灾害点,并对流域内电站的安全运行产生威胁。在暴雨频发的汛期内,许多堆积体便处于淹没状态中,研究淹没堆积体附近的水流特性,能丰富堆积体附近水流结构的研究成果,为汛期受堆积体影响的河道治理优化方案提供支持,还可为后续堆积体起动试验打下基础。本文
红外弱小目标检测在军事预警方面具有重要的应用价值。弱小目标检测存在红外图像成像距离长、区域小,目标在成像平面上的像素点较少等问题,手工设计的目标特征难以在复杂背景图像中正确区分目标、背景和噪声,且现存的许多算法有较高的计算复杂度,不满足军事上的实时性要求,高精度的检测仍然是一项具有挑战性的任务,因此有必要进行更好的算法探索,本文的主要贡献如下:(1)为突出目标与抑制背景,首先提出了一种能够有效抑制
随着5G技术的逐步商业化,安装了各种新奇应用的用户设备对于我们已经不可或缺。类似VR/AR这样的高计算量应用通常是利用摄像头和本地传感器来执行基于实时感知操作。而这些应用有两个主要特性:第一,用户设备必须对传感器产生的数据流进行高速处理。第二,在数据流中提取有用信息的方式通常需要计算密集型服务支撑。由于上述两个特性,且用户设备计算资源有限,因此很难在用户设备上独立运行具有高计算量需求的应用。为此,