面向CNN的类激活映射图可视化及对抗样本生成算法研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:shibihu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习在计算机视觉领域取得了巨大的成功。但是,基于深度学习的网络模型存在安全隐患,容易受到对抗样本的攻击。攻击者在原始样本上加入特定扰动可以使网络模型以高置信度输出错误结果。深入研究对抗样本,有助于启发人们思考深度学习存在的安全隐患并将其排除。现有的对抗样本生成算法通常着重于目标模型的分类损失和回归损失等,生成的对抗样本与当前网络模型具有较高的耦合性,从而使得对抗样本在不同模型之间的迁移性较差。为解决这一问题,本文从卷积神经网络可解释性的角度出发,提出了基于类激活映射图的对抗样本生成方法以提升对抗样本的迁移性。主要的研究内容如下:1.提出了基于层级加权的类激活映射算法(Score-weighted and Layer-wise Class Activation Mapping,SL-CAM)。该算法通过融合网络模型浅层到深层的卷积特征图,生成具有高细粒度的类激活映射图,打破了当前类激活映射算法只采用最高层卷积特征图的常规思路。SL-CAM首先利用梯度和卷积特征图逐层生成类激活映射图,其次将每一层的类激活映射图作为位置掩码融入到输入样本,得到当前类别置信度的变化率,最后基于置信度的变化率对每一层的类激活映射图进行加权获得一个融合所有层特征的类激活映射图。实验结果表明,SL-CAM在平均上升率、平均下降率、一致性指标和图像细粒度上均优于目前的类激活映射算法。2.提出了基于类激活映射图的对抗样本生成算法。在图像任务上,实现了L∞约束下的对抗样本生成。该算法通过加入新的损失函数以及优化迭代更新策略,提升对抗样本的迁移性。依次在MNIST,Cifar10,ISLVRC 2012上针对不同的网络模型进行对抗攻击实验,实验表明在白盒攻击有效的状态下,生成的对抗样本具有较好的迁移性。在目标检测任务上,实现了L0约束下的对抗样本生成。该算法以类激活映射图作为先验知识获取L0约束的位置区域。其次损失函数中采用检测框的置信度损失,注意力损失和耦合度损失。最后迭代优化策略和图像分类任务上所提出的保持一致。在MS-COCO2017数据集上针对多个模型进行实验,成功实现输入图像中物体隐藏的攻击效果并且生成的对抗样本具有较好的迁移性。
其他文献
输电线路中的绝缘子在电力运输方面发挥着重要的作用。然而由于绝缘子长期暴露在充满灰尘的环境中,极易导致灰尘吸附在其表面形成污秽层,严重影响绝缘子的绝缘性,因此对绝缘子定时清洗在保证电力运输安全方面具有重要意义。传统的绝缘子清洗一般是通过人工登高、载人直升机和人工操控无人机等方式进行,而这些方式存在效率低、安全性低、操作难度高与清洗不全面等问题。为了高效、自主、安全、全面的完成对电力绝缘子的清洗,本文
学位
在实际的应用中,量子系统往往会受到外界环境和测量因素的影响而成为随机开放量子系统,因此,对随机开放量子系统控制的研究具有着重要的应用价值和发展前景。利用量子系统的在线状态估计算法可以实时获取到系统的估计状态,根据估计出的系统状态,结合相应的控制策略可以实现对系统的反馈控制。本论文重点研究了随机开放量子系统的状态转移,以及基于在线估计状态的反馈控制,研究内容包括以下三个方面:1.基于李雅普诺夫稳定性
学位
审读工作是出版工作的一个具体、重要的环节,也是出版行业进行编校质量保障体系建设的重要内容。在建设文化强国与出版产业化等背景下,出版物的质量成为行业关注的焦点。如何以制度保障的方式,有效地提升出版物质量,成为出版行业亟待解决的问题。本文以JXJY传媒集团为个案,通过调研与分析,总结出版企业在期刊审读工作与编校质量保障体系建设方面的成功经验,包括创新审读方法、健全审读队伍、完善审读差错评判与审核机制、
学位
量子精密测量利用量子系统对外界环境变化的高度敏感性以及量子相干和纠缠等特性,以提供远超经典计量方案的测量精度,已经被广泛应用于高精度测量和传感场景中。参数估计是量子精密测量的一项基本任务,提高参数估计的精度是量子精密测量的主要目标之一。然而在现实环境中,许多量子系统不可避免地受到周围环境的影响而发生退相干,这会极大地降低参数估计的精度。因此,研究如何提高开放量子系统的参数估计精度对于推动量子精密测
学位
目前,番茄病害是影响番茄高产稳产的重要因素之一。病害程度的准确识别对于选择合适的治疗手段以及监测病害的发生趋势是十分关键的,然而现有研究主要集中在对番茄病害种类的识别问题上,针对病害发生严重程度的识别研究却相对较少。要实现番茄病害程度的准确识别主要存在两个难点:(1)病害数据样本中,实际标注过程由于出现标注错误,使得样本库存在大量噪声,降低病害程度识别模型的鲁棒性;(2)同种病害不同患病程度间的特
学位
近年来人工智能的发展给人们的生活带来了很大的便利,图像分类任务作为其中的重点研究领域得到了极大的关注和发展,但是分类模型的训练往往离不开足够的标注数据。一方面,对大量无标签数据人工标注是一件耗费人力物力的事情,另一方面,存在着很多诸如医疗安防等难以获取足量训练样本的应用场景,这些问题推动了图像分类在少量数据条件下的研究。本文将以小样本图像分类任务为对象,进行研究探索。目前基于任务的训练方式是解决方
学位
多铁性材料的磁电耦合效应可以实现电序参量和磁序参量的相互耦合,在传感器、能量采集器以及低能耗存储器等多功能电子器件中应用广泛。其中,BiFeO3-BaTiO3固溶体是典型的单相多铁性材料,可以在室温下同时具有铁电性和磁性。但是它的磁电耦合响应仍然比较微弱,这大大限制了其在电子器件中的实际应用,如何提高BiFeO3-BaTiO3固溶体的磁电耦合响应也吸引了很多研究者的关注。我们课题组之前的工作曾提出
学位
随着社会经济的蓬勃发展和城镇化进程的快速推进,大规模的人口流动和人口聚集已司空见惯,这给社会公共安全带来巨大威胁。为了保护人民生命财产安全,可高效分析汇总图像数据并发出预警的智能监控系统在人工智能和计算机视觉等技术的催化下应运而生。人群计数作为智能化监控系统的重要组成部分,能够准确地估计实际场景中的人群总数和分布状态,在安防预警、交通调度、疫情防控等领域发挥着重要作用。近年来,得益于深度学习技术和
学位
新疆准噶尔盆地南缘的郝家沟剖面是晚三叠-早侏罗世时期高纬度地区一个非常重要的陆相地层剖面,拥有出露完整且连续发育的沉积地层和丰富的古生物化石。前人于郝家沟剖面早侏罗世八道湾组的地层中发现了海相-半咸水相双壳类Waagenoperna的化石,并据此推测准噶尔盆地曾于辛涅缪尔期受到海侵事件的影响。然而,到目前为止还没有地球化学方面的证据支持当时海侵事件的存在。为了检验这一猜想的正确性,重建早侏罗世期间
学位
星系团是宇宙中最大的引力约束位力化结构,探测星系团的质量对宇宙学研究有重要意义。引力透镜是探测星系团物质分布的最有效方法之一,通过星系团的引力透镜效应可以不依赖于星系团的状态直接探测星系团的暗物质分布。利用引力透镜数据重构星系团质量分布的主流方法可以分为两大类,即参数法和非参数法,参数法和非参数法的区别在于质量模型是否考虑星系团的物理图景。星系团是由暗物质晕并合而成的,参数法用多个暗物质晕模型拟合
学位