针对图像分类的对抗样本防御方法研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:jianjia88521
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年来,深度神经网络(DNN)飞速发展,卷积神经网络(CNN)作为DNN中的一个重要网络模型在计算机视觉、自然语言处理、语音识别等领域都取得了令人惊讶的表现。然而,Szegedy等人第一个在图像分类领域发现了CNN极度容易遭受对抗样本的攻击而导致错误分类,并且对抗样本与正常图片在人眼视觉效果上差距很小。因此,对抗样本攻击给注重安全性的卷积神经网络图片分类应用带来了极大的威胁,研究如何有效抵御对抗样本攻击是十分有必要且有意义的。虽然目前已经有许多学者提出了各种类型的对抗样本防御策略,其中High-Level Representation Guided Denoiser(HGD)在NIPS2017年对抗防御比赛中以极好的成绩取得了第一名,但是我们发现HGD的损失函数仍然存在一些不足,错误分类的样本可能比正确分类的样本有更低的重构损失值。此外,单一的对抗样本防御方法无法很好的抵御不同攻击方法不同攻击强度的对抗样本攻击。本文针对HGD模型,提出了改进算法Weighted High-Level Representation Guided Denoiser(WHGD),该算法在HGD损失函数的基础上引入权重向量改进HGD的问题。另外,本文还从理论与数学上详细论证了该算法的可行性,并将WHGD从重构器作用拓展到检测器,检测器负责判断输入是否超出WHGD重构器能够处理的范围。针对单一对抗样本防御策略的不足,本文提出了对抗样本检测与重构的混合防御系统,该系统由一个较大对抗扰动的对抗样本检测器、WHGD重构器、WHGD检测器、专用WHGD重构器组成,其中WHGD检测器与专用WHGD重构器是用户可选防御模块。在选择所有可选模块的情况下,输入样本首先经过较大对抗扰动对抗样本检测器进行分类;然后根据类别传递给不同的WHGD检测器,如果输入样本被检测器认为超出WHGD重构器处理范围则交由专用WHGD重构器处理,否则样本直接交由WHGD重构器进行去扰动;最后将所有重构器的输出传递给目标网络进行分类。最后,实验结果表明,本文提出的WHGD算法与混合防御系统均能有效抵御各类攻击算法与攻击强度的对抗样本。
其他文献
随着全球范围内单倍体造血干细胞移植(Haploidentical stem cell transplantation,Haplo-SCT)技术的成熟和数量的增加,寻找Haplo-SCT的最佳供者已经成为临床医生需要解决的至关重要的问题。目前Haplo-SCT供者选择的原则并不明确。我们回顾性研究了我们单中心连续8年的基于低剂量抗胸腺细胞球蛋白(anti-T-lymphocyte globulin,
遥感影像中的云图检测对遥感影像的后续应用具有重要意义。目前,遥感卫星影像在农业生产、天气预报、自然灾害预测、军事科技、地理测绘、变化检测、水利交通等领域应用得越
超冷里德堡原子由于其独特的物理性质被应用于越来越多的物理实验研究中。经过30多年的发展,冷原子为许多基础理论的研究提供了理想的实验平台,如玻色爱因斯坦凝聚的基本性质
Majorana费米子的反粒子是其自身,它满足Non-Abelian(非阿贝尔)统计,是容错拓扑量子计算的有效候选之一。自Majorana费米子被提出以来,对它的寻找从未停止。最近人们发现在拓扑
改革开放以来中国经济快速增长的同时,区域经济发展不平衡问题也日益突出。尤其是区域经济发展分化态势加剧、增长动力极化现象日益突出。区域经济发展的空间格局正在发生深
图像描述任务致力于赋予计算机“看图说话”的能力,即在给定输入图片的条件下自动生成符合自然语言表达习惯且真实反应图像内容的文字序列。该任务通常会采用图像识别模型或
随着云计算和互联网的快速发展,数据的指数级增长对其存储与管理带来了巨大的挑战。暗数据作为一种无标签无关联的数据资源,一直占据着大量的存储空间,却难以在当下发挥价值。若用户盲目的对暗数据进行数据挖掘,可能会导致巨大的成本浪费。因此,在对暗数据进行挖掘之前,先对它进行语义分析和价值评估具有着重要意义。本文通过研究图像哈希算法及图结构排名算法在暗数据价值评估方法上的应用,设计和实现了一套基于相似性哈希的
对于不满足根治手术条件的紫绀型先天性心脏病患儿,通常需要采用体肺分流术来提高血氧饱和度、缓解紫绀和促进肺动脉发育。本文根据研究案例的CT影像图和临床数据,建立了左右
如今,随着AR/VR等产业的发展,人们对计算机图形视觉效果逼真程度的要求日益提高,真实感渲染领域的技术发展迅速,应用潜力巨大。真实感渲染即在计算机上生成模拟现实物体表面
5G移动通信系统将于2020年左右商用,其网络速率将会达到10 Gbps,频谱效率会是4G的10倍,而且需要能够支持海量用户。为实现这一目标,新型多址接入技术、网络架构、调制技术的引入势在必行。正交频分多址(OFDMA)是4G移动网络的核心技术,其接入的用户数会受到可调度的时频资源的限制,已不能满足5G的高要求。稀疏码多址接入(SCMA)技术可以有效解决这一问题,它通过在时频资源之外引入稀疏分布的