【摘 要】
:
对抗攻击(Adversarial Attack)指对输入样本添加一些人为制造的、肉眼几乎察觉不出的噪声,导致模型对该输入样本给出一个错误的输出,该添加特定噪声的样本被称为对抗样本(Adversarial Examples)。对抗攻击主要分为两大研究方向:(1)攻击者了解模型的结构和参数,即白盒攻击;(2)攻击者不了解模型的结构和参数,即黑盒攻击。相对地,对抗防御(Adversarial Defen
论文部分内容阅读
对抗攻击(Adversarial Attack)指对输入样本添加一些人为制造的、肉眼几乎察觉不出的噪声,导致模型对该输入样本给出一个错误的输出,该添加特定噪声的样本被称为对抗样本(Adversarial Examples)。对抗攻击主要分为两大研究方向:(1)攻击者了解模型的结构和参数,即白盒攻击;(2)攻击者不了解模型的结构和参数,即黑盒攻击。相对地,对抗防御(Adversarial Defense)力求防御对抗攻击,即模型对对抗样本也能给出正确的输出。随着深度学习模型在各个领域的不断应用,对抗攻击的问题也日益突出。攻击者使得模型产生误判、错误预测等问题,从而破坏系统安全,对人脸识别、金融及辅助驾驶等领域产生了威胁,故亟需提高模型鲁棒性,以及推动深度学习技术的发展和进步。因此,对抗攻击与对抗防御的研究具有重要的现实意义。本论文围绕对抗攻击与对抗防御展开研究,具体工作如下:(1)提出了一种基于动态微调设置的元攻击方法。基于梯度估计的黑盒攻击方法利用目标模型的输入输出作为信息,以此生成估计的梯度,将其用于对抗扰动的优化。过多的模型查询有可能会暴露攻击者的目的和身份,同时考虑到模型查询是收到限制的,因此攻击者期望尽可能地减少黑盒攻击中所需的模型查询次数。元攻击(Meta Attack)采用了先进的元学习机制,设计了一个神经网络,用于模拟目标模型以及输出估计梯度,即元梯度,因而减少了模型查询次数。然而,它以固定的频率查询ZOO梯度,这仍然会导致大量不必要的模型查询。为了克服这一限制,本论文以元梯度精度的动态变化为基础,提出了一种动态的元攻击(Dynamic Meta Attack,DMA)。在每一轮微调开始时,DMA计算元梯度与ZOO梯度的差距,该差距反映了元梯度的精度,因而可作为DMA进行模型查询、元梯度修正的指导信息。此外,动态微调由一组参数来实现,易于调整。通过这种方式,DMA只在关键时刻启动查询,从而显著地节省了查询资源。实验结果表明,所提出的DMA比现有方法所需的模型查询次数要少得多,同时保持了令人满意的攻击成功率和图像失真。(2)提出了一种基于特征一致性的对抗防御方法(Feature Consistency Defense,Fe Con Defense)。现有的对抗防御方法鲜少考虑到对抗扰动是如何影响模型对图像的特征表达。不同任务的模型对同一个样本所提取到的特征存在一定的区别,那么探究对抗样本在不同模型的特征空间中存在怎样的差异、该差异能否帮助我们找出并抵消对抗扰动,就变得有意义了。换言之,对抗样本在不同模型之间的特征一致性有可能作为对抗防御的关键因素。本论文发现不同任务的两个模型对相同的对抗样本所提取到的中间层特征存在着明显的差异,这一对中间层特征的距离被称为特征一致性损失(Feature Consistency Loss,Fe Con Loss)。基于特征一致性损失,本论文提出了通过降低对抗样本的特征一致性损失,以抵消对抗扰动的对抗防御方法。实验结果表明,所提出的Fe Con Defense能提升模型的鲁棒性。
其他文献
为促进学生对单元知识的整体理解与综合运用,发展数学核心素养,需要基于“知识-生活”的双向分析确定单元项目和聚焦核心素养培育的目标,在“横向三维+纵向分化”的框架下设计项目学习的过程。在项目实施过程中重视从群体和个体两个层面协助学生进行身份建构,并以评价激励学生持续开展深入探究过程。
随着核工业的不断发展,行业面临着越来越多的核设施检修、退役、事故应急处理等问题。热室作为核原料生产和处理中广泛应用的基础设施,是这些问题发生的典型场景。但是人工不适宜工作在热室内高辐射工作环境,因此行业有着使用机器人代替人工解决这些问题的迫切需求。本文针对热室检修问题,综合分析了核工业领域不同类型的机器人特征以及优缺点,提出了一种携带重载机械臂的移动机器人方案。首先,基于一种典型的热室检修场景,设
工程项目的投资控制一直以来都是建筑行业关注的重点之一。投资控制的效果直接关系到项目的投资效益。项目的投资控制贯穿于项目的全生命周期。有效地控制投资是一个动态的过程,在项目的整个生命周期不断细化,且越是早期对项目的投资效益影响越大。项目可研报告一经批准,初设阶段就成了投资控制的关键环节。设计费用在整个项目的投资中占比很小,但是设计阶段发挥的作用非常大。所以初设阶段的投资控制极其重要。通过对国内外大量
调查木工作业接触的甲醛危害职业健康风险水平。以具有代表性的木制家具企业为研究对象,应用美国国家环境保护局(Environmental Protection Agency,EPA)吸入模型对木工作业接触的甲醛进行职业健康风险评估,明确职业健康风险水平,讨论评估模型的适用性。A企业木工作业的甲醛吸入致癌风险水平Risk值为3.9×10-7~7.9×10-6,风险水平均为低:B企业木工作业的甲醛吸入致癌
基础设施建设与人民生活息息相关,是城市生产、生活不可缺少的物质基础。随着我国经济飞速增长及城市化进程加快,加大市政工程基础设施建设力度,创造良好外部投资环境和更加宜居的生活环境,是城市建设的一项重要工作。文章从建设单位造价管理人员的角度,结合市政工程特点,对项目全过程投资控制进行研究,以“批足钱、管好钱”为切入点,对各阶段造价管理工作提出建议,以供参考。
“双减”政策的实施对小学的课后服务工作提出了更高要求。小学课后体育服务作为课后服务的重要组成部分之一,是响应政策指导意见的重要举措。小学课后足球教学活动依托于课后体育服务这一理想平台,迎来了新的发展机遇,对于扩大小学生足球运动的参与,促进小学校园足球的发展、学生足球水平的提高以及足球人口基数的增长都具有重要意义。本研究以武汉市校园足球特色小学的课后足球教学活动开展现状为研究对象,采用文献资料法、问
科创企业是技术创新的主体,引导金融资源向科创领域集聚,是金融供给侧结构性改革的重要方面,对于实施创新驱动发展战略、推动经济高质量发展和实现高水平科技自立自强具有重要意义。因此,研究科技金融如何创新发展来更好地服务科创企业发展具有非常重要的应用价值。基于对在科技金融支持科创企业发展实践中走在全国前列的武汉东湖高新区的调查,梳理了当前金融管理部门和金融市场主体支持科创企业发展的现状,分析了支持科创企业