高效健壮的对抗样本生成方法研究

来源 :北京交通大学 | 被引量 : 0次 | 上传用户:punkyard
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来深度神经网络在图像分类、自动驾驶、语音识别等多个领域取得了突出成就,尽管如此,它们仍面临着对抗样本的安全性威胁。对图像来说,对抗样本是在原始图像上添加微小扰动后,使网络模型产生错误判断的图像,并且预测错误的类别会获得很高的置信度。为更好地解决这一“反直觉”的现象,提高分类神经网络的鲁棒性,我们需要深入了解对抗样本的攻击原理。现有的对抗样本生成方法无法确保添加的扰动量足够小,因此极易被人眼所察觉。但对抗扰动过小,又无法保证成功攻击目标网络模型。并且基于迭代的攻击方法往往消耗的计算成本较高,效率较低。因此如何兼顾对抗扰动的不可见性、对抗样本的攻击能力和可迁移性等几方面因素,成为对抗机器学习领域中的研究重点。本文针对这些难点,设计了两种高效鲁棒的对抗样本生成方法,用以解决目前对抗攻击方法的一些存在问题,显著提升黑盒对抗攻击效果。主要工作总结如下:提出了自适应压缩扰动的鲁棒对抗样本生成。通过优化方法寻找损失函数最小值,增加对抗样本多样性,扩大对抗样本的生成空间。其次为有效去除冗余扰动,寻找输入数据中决定网络预测结果的显著区域,对上一阶段的较小扰动构造重要度掩膜,自适应压缩扰动。该方法还集成到了实时演示系统中,以解决实际场景中更复杂的对抗样本问题。提出了基于关键区域的高效对抗样本生成。通过寻找原始图像的关键区域来缩小初始搜索空间,加快收敛速度;其次考虑图像像素之间的近邻性质,改变迭代方程,优化候选解的更新方向。两个工作都在miniImageNet数据集和多个网络分类器上进行了大量实验,实验结果证明了我们的方法是有效的,产生的对抗扰动与目前先进的攻击方法相比,攻击成功率更高,L2距离更小且更具有实际意义,并且生成的对抗样本具有较强的可迁移性。
其他文献
技术通过对文本内容的抽取、精炼和总结,概括原文的主要内容,获得原文的简要表示,是自然语言处理领域里的一个重要研究方向。由于文本自动摘要任务面对的文本序列具有复杂性及多样性的特点,尤其是中文,目前的文本自动摘要方法生成的摘要与参考摘要的差异性较大。同时,当前广泛使用的评估方法只根据表面的词汇重叠率评估生成文本的质量,评分不能有效反映文本摘要结果的优劣。针对这些问题,本文对如何提高中文文本自动摘要的语
随着世界经济的飞速发展,汽车的总数量亦迅猛增长,庞大的汽车数量带来了一系列问题,诸如交通事故、交通拥堵、交通违法等。基于此背景,2019年9月,中共中央联合国务院印发了《交通强国建设纲要》,首次将智能交通系统(Intelligent Transportation System,ITS)写入纲要中,极大地推动了ITS的蓬勃发展。在ITS中,车联网是凭借新一代信息通信技术,以运动车辆为信息感知对象,实
大口黑鲈又被称为加州鲈,属于太阳鱼科黑鲈属鱼类。上世纪80年代初引入我国,具有生长速度快、抗病能力强、肉质细腻、肌间刺少、味道鲜美、营养丰富,经济效益较好等特点,是当前我国较为重要的一种养殖鱼类。在传统"四大家鱼"养殖经济效益持续低迷的情况下,各地将大口黑鲈(加州鲈鱼)作为优质淡水养殖品种进行推广养殖,养殖面积和产量逐年提升,获得了不错的经济效益。循环水养殖模式是一种新型养殖方式,是通过加装
图像融合技术通过对多传感器采集的图像进行信息提取,将有效信息融合到一幅图像中,实现对场景有效全面的表达。图像融合技术已经在军事、数码成像等领域广泛应用,但因为不同传感器的成像机理与成像特性有较大差别,所以图像融合技术仍未达到理想结果。本文针对多聚焦图像和红外与可见光图像的区域特征进行了深入研究,主要研究内容如下:(1)针对目前空间域算法的聚焦区域检测出现边缘扩散现象,本文提出了一种基于边窗滤波机制
信息系统作为企业经营必要的手段之一,能够大幅减少信息传输的成本,提高企业自身竞争力。但系统存在的安全脆弱点容易演变成入侵者攻击的目标,造成无法挽回的损失。企业需要投入一定数量的资源,研发安全防御技术抵御外部攻击,以保障系统持续稳定地运行。通常企业可利用的安全资源是有限的;不同类型的信息系统面临的安全威胁各异,应采取的安全防御技术有所区别。如何在有限的资源下,选择信息系统的安全防御技术并分配合理的资
随着智能设备的普及和移动互联网技术的迅速发展,基于位置的社交网络(Location-based Social Networks,LBSNs)开始变得普遍和流行。兴趣点(Point-of-Interest,POI)推荐作为LBSNs中核心的智能应用,能够通过用户在社交网络上记录的历史移动轨迹预测用户将要访问的下一个兴趣点。然而现有对这项技术的研究仍然面临着两个挑战。首先,用户的历史签到轨迹蕴含了用户
视频目标分割是机器视觉中的一个热门方向,在视频理解的精确对象跟踪、视频编辑、场景理解、自动驾驶汽车等领域都有广泛的应用。然而视频目标分割在实际生活中应用仍然存在着许多难点和挑战。首先是目标随着场景的变化,会存在目标被背景遮挡的问题,以及目标多尺度变化的情况;然后目标与背景的纹理或者颜色有极大程度的相似性;最后是现有的算法都难以满足在实际应用中分割的速度,特别是对于多目标物体。为了克服这些难点,本文
随着电子商务的发展,仓库中分拣的订单也呈现出“多品种、小批量,多批次,高时效”的特点。而传统人工拣选方式需要消耗大量的人力物力。在这样的情况下,为了降低物流分拣成本,提高服务效率,越来越多的企业开始在仓储物流中使用机器人。近年来一种新型自主移动机器人(Automated Mobile Robot,AMR)兴起,它采用人机协同的方式,将作业人员的移动集成到一个工作流程中。2019年的一项对AMR市场
随着新零售模式的快速发展,外卖行业的发展愈发迅速,“点外卖”已经成为了人们的主流生活方式之一。随着资本补贴红利减弱,外卖行业面临更加严峻的市场竞争压力,目前国内的外卖行业已基本形成饿了么与美团外卖“两雄争霸”局势。市场格局的基本形成使各大外卖平台将提高竞争力的主要着力点转变为如何提高配送服务水平和降低配送费用上,庞大的外卖市场带来的是配送压力的不断加大,外卖企业更多的关注于配送服务的优化问题。因此
轻度认知障碍症(Mild Cognitive Impairment,MCI)是介于正常衰老和老年痴呆的一种中间状态症。利用静息状态功能磁共振成像(Resting-state Functional Magnetic Resonance Imaging,rs-fMRI)进行动态功能连接(Dynamic Functional Connectivity,d FC)分析是目前捕捉神经活动动态变化进行脑疾病识