【摘 要】
：
近些年,深度卷积神经网络在包括目标检测和图像分类在内的许多领域取得了显著的进展。然而,神经网络数据驱动的特点使其缺少可解释性,常被人们看作黑箱模型。类激活映射方法（Class Activation Mapping,CAM）利用特征图的加权组合定位到图像中的类判别区域,为卷积网络的分类结果提供了可视化的解释。以CAM方法为代表的定位解释方法为卷积网络分类机制的研究提供了新的思路。本文基于CAM的思想
论文部分内容阅读
近些年,深度卷积神经网络在包括目标检测和图像分类在内的许多领域取得了显著的进展。然而,神经网络数据驱动的特点使其缺少可解释性,常被人们看作黑箱模型。类激活映射方法（Class Activation Mapping,CAM）利用特征图的加权组合定位到图像中的类判别区域,为卷积网络的分类结果提供了可视化的解释。以CAM方法为代表的定位解释方法为卷积网络分类机制的研究提供了新的思路。本文基于CAM的思想提出逐元素类激活映射方法（Element-wise Class Activation Mapping,ECAM）,该方法使用逐元素的梯度信息和激活信息得到类激活图,为类判别区域与类别输出之间的关系给出了解释。文中通过推导说明了 ECAM是原始CAM方法的推广,可以不受CAM方法中对于网络结构的限制,应用到基于卷积网络的深度学习模型中。本文在ImageNet数据集上评估了ECAM方法对目标类别的定位表现,在弱监督学习定位上取得了比梯度加权类激活映射（Gradient-Weighted Class Activation Mapping,Grad-CAM）更高的定位准确度。同时,ECAM在多目标图片分类上也取得了良好的定位表现,从类别特征的角度解释了网络的分类结果。在人工智能安全领域,对抗样本的提出对卷积网络在很多领域的应用产生了威胁。当前大部分已提出的神经网络可解释方法都是针对真实样本的,而缺乏网络对于对抗样本分类结果的解释。本文将提出的ECAM方法应用在对抗样本中,发现对抗样本相较于真实样本的类判别区域发生转移。通过对抗扰动,真实样本类判别区域的特征信息被抑制,而对抗样本类判别区域的信息被表达。进一步地,我们研究了类判别区域与对抗扰动区域之间的关系,可以为之后的对抗样本识别及防御研究提供一个切入点。
其他文献
热电材料作为一种半导体材料,能够实现电与热之间相互转换,最大的特点是可以利用自然界存在的温差来为人类提供热电发电,因此能大大提高对能源的利用效率,并且不存在环境污染的问题,具有良好的综合社会效益,在当今鼓励开发清洁高效能源的大环境下具有非常广阔的前景。衡量热电材料性能的最直接方法是引入一个参数,即无纲量优值ZT,ZT值的大小直接决定了由热电材料制备的热电器件的转换效率。因此本文通过对IV-VI族热
随着城镇化进程的加快,汽车保有量的迅猛增加,城市交通拥堵日益严重,快速路的建设与控制引起了广泛地关注。近些年来,众多学者在控制策略方面提出了匝道控制、可变限速控制以及多种控制的协同等策略,交通控制相关研究在解决城市交通拥堵问题方面也取得了一系列进展和成果。但在应急疏散情境下,控制目标和交通流特征的改变,使得当前的控制策略并不能完全地适应应急疏散的需求。因此,本文以应急疏散情境下的城市快速路的匝道控
空间天气是指日地空间中由于太阳活动的爆发而产生的影响地球磁层、电离层和热层空间环境的短时间尺度变化的现象。太阳活动是灾害性空间天气的源头,空间天气预报的一项重要工作就是及时、有效预测太阳爆发活动,特别是太阳耀斑和日冕物质抛射等爆发性事件的发生和演化。太阳黑子及黑子群构成的活动区参数是太阳爆发活动预测的重要指标,研究太阳黑子群的识别和分类是空间天气预报的基础。本文利用太阳动力学观测站所搭载的日震与磁
卫星平台的剩磁一直是空间磁场探测中的重要干扰源。降低平台剩磁干扰的方法主要包括长伸杆、磁洁净技术、卫星线路布局优化和多磁载荷磁测技术。其中长伸杆方法难度高,还会影响卫星稳定性;磁洁净技术成本太高,实施难度大;布局优化设计复杂度太高。多磁载荷磁测技术基于径向安装的多磁载荷测量磁场梯度,来分析和降低卫星平台剩磁干扰的技术,工程实施成本低,获取的空间磁场相对精度高,因此被广泛应用于空间磁场的测量。目前国
地球北部与北极地区除当地少数土著人的固定生活外,人类开发强度还比较低,然而,目前政治经济的进城已经对这些地区的发展和城市化产生了直接影响。由于普遍存在的恶劣气候条件,北极地区的土地扩张比较滞后。并且,由于狭隘的工业发展过程以及地缘政治先决条件,当地社区的生活和自然系统在城市化的过程中被忽视,导致了全球环级地区社会环境问题的出现。因此,国际社会越来越关注这些地区发展新模式中出现的问题。对俄罗斯而言,
二硫化锡（SnS2）是一种层状的n型半导体材料,它具有有趣的物理性质而且在光电探测器、传感器、场效应晶体管、电池等领域中显示出巨大的应用潜力。根据密度泛函理论,SnS2具有超低的晶格热导率,因此它在热电转换领域的应用也越来越受到人们的关注。理解层状SnS2纳米膜的热输运对于优化这些设备的热管理、能量输运和转换是至关重要的。但是由于其微纳尺度下热输运性质研究的复杂性,该问题的探索大大落后于其他物理特
结构在施工过程中,荷载与结构构造不断变化,导致结构应力重分布等内力调整,准确把握结构整体变形情况、最大应力情况以及施工过程中结构的响应变化有利于保证结构施工安全。销轴节点是钢结构中应用范围较为广泛的连接节点,节点性能对于钢结构响应有较大影响。节点刚度特性的改变会影响结构位移响应和构件安装精度。但是基于宏观尺度模型的结构施工分析,难以反映局部关键节点位移响应及应力状态,有必要开展考虑节点刚度特性的结
在信息时代背景下,建筑设计逐渐从追求空间美学和视觉艺术,转向关注使用者对空间的切实体验和感受。然而,现有的建筑空间设计,往往以设计师的主观判断为依据,难以收集和呈现使用者客观需求。这一方面是由于使用者专业知识不足,难以在设计阶段直观、形象地理解设计方案并提供反馈意见。另一方面,设计师获取反馈的方法主要依赖使用者模糊且非量化的主观描述,存在一定的主观性。如何较为准确获得使用者客观的情绪与认知反馈,成
面向海洋通信的水声通信信道具有某些共性,其通常是具有多途干扰以及多普勒因子扩展效应的信道,这说明水声信道是快速时变的,带来的后果是其具有强烈的多普勒效应和多径效应。目前,针对于水声通信,获取水声信道状态信息的方法已从信道估计发展为信道跟踪,而现有的信道跟踪方法只能粗略恢复出信道的整体状态信息,缺点是不能获得信道不同路径的参数信息,此外水声信道的时变性和双扩展特性也限制了该类方法的跟踪性能。能否有效
我国部分地区河道底泥中存在邻苯二甲酸二甲酯（DMP）等难降解有机物,已对底泥生态系统和人类健康构成了严重威胁。土著微生物强化法已被较多地用于土壤等环境中DMP的降解,且主要以单一菌株为主。底泥是一个复合型污染环境,利用菌群降解底泥中的DMP更具优势。本论文拟从河道底泥中筛选出一个能降解DMP的菌群,探究其最优扩培条件,在此基础上分析其在培养液中的降解特性,并研究其在模拟底泥中的降解效能,以期获得一