【摘 要】
:
随着人工智能的快速发展,已经有越来越多的基于深度学习的方法被提出并广泛地应用于生产实践中,而以对抗样本为代表的深度学习安全性问题也引起了越来越多的关注。当前的众多研究表明对正常的图像添加精心构造、人眼难以察觉的微小扰动,得到的对抗样本会使得深度学习图像分类模型做出错误的判断,并造成严重的安全问题,因此研究对抗样本以揭示模型的安全问题有着巨大的意义。根据敌手对被攻击模型的知晓程度,可以将对抗样本的生
论文部分内容阅读
随着人工智能的快速发展,已经有越来越多的基于深度学习的方法被提出并广泛地应用于生产实践中,而以对抗样本为代表的深度学习安全性问题也引起了越来越多的关注。当前的众多研究表明对正常的图像添加精心构造、人眼难以察觉的微小扰动,得到的对抗样本会使得深度学习图像分类模型做出错误的判断,并造成严重的安全问题,因此研究对抗样本以揭示模型的安全问题有着巨大的意义。根据敌手对被攻击模型的知晓程度,可以将对抗样本的生成分为白盒攻击、黑盒软标签攻击和黑盒硬标签攻击,其中白盒攻击方法已经比较成熟,本文重点关注黑盒场景下的图像对抗样本生成问题。当前的黑盒攻击方法需要对模型进行非常多次的访问,且生成的扰动较大,攻击结果不理想,因此本文在黑盒软标签场景和黑盒硬标签场景分别提出一种对抗样本生成方法以减少对模型的扰动和访问次数,具体如下:在黑盒软标签场景下,本文提出一种基于交叉熵算法的对抗样本生成方法CEMA,该算法利用自编码器降低对抗样本生成问题的搜索空间,并在低维空间利用交叉熵算法求解最优扰动,在MNIST、CIFAR10和Image Net数据集上的实验结果表明CEMA可以实现对三种数据集的有效攻击,对比实验结果表明,在l∞最大扰动限制小于4/255下,Image Net数据集上CEMA攻击成功率高于NES、SPSA和Auto ZOOM各9.6%、4.6%、4%。针对使用JPEG进行数据预处理增强的模型,限制最大访问为2500,CEMA攻击成功率高于NES、SPSA、Auto ZOOM各6.5%、9.1%、2.7%,针对使用convex进行网络增强的模型,CEMA攻击成功率高于NES、SPSA、Auto ZOOM各6.6%、5.1%、4.8%。在黑盒硬标签场景下,本文提出一种基于协方差矩阵自适应进化策略的对抗样本生成方法CMA-ESA,该方法使用二分搜索法搜索距离原始数据较近的对抗样本,从而提升初始解的质量,利用双线性插值降低问题的搜素维度,并使用自适应协方差矩阵对搜素空间上样本点的局部几何结构进行建模,利用CMA-ES算法求解具有攻击性的最小扰动。在CIFAR10和Image Net上的实验结果表明,限制最大访问次数为5000,CMA-ESA攻击成功率高于Opt、Boundary和HSJA各3.6%、40.5%、2.3%。在使用ALP进行对抗训练的模型上,CMA-ESA的攻击成功率也高于Opt和Boundary各7%以上。
其他文献
帕金森病是最常见的神经退行性疾病之一,我国65岁以上人群中患帕金森病的人约占1.7%。帕金森病患者最主要的临床症状为静止性震颤、肌肉强直、运动迟缓以及平衡障碍。人类的运动机能会随着年龄的增长而逐渐退化,这与帕金森病的早期症状有相近的特征,导致许多患者错过了最佳的治疗时间。因此,尽早的判断、准确的追踪患者的病情以期及时调整患者的治疗方案成为目前亟待解决的问题。帕金森病的评估通常是通过帕金森评分量表等
在信息技术高速发展的时代,人们以协同运行的工作方式为背景、以计算机技术和通讯信息技术为基础,产生出了一个同时具备群体性、分布性和协作性的设计方法——协同设计。协同设计的工作方法可以有效提升设计效率及品质,同时也推动了设计管理技术的创新,对提高设计管理水平、推动企业发展具有重要意义。基于以上背景,本文利用NX(Next Generation,数字化产品开发系统)平台中的Navigator、Libra
随着物联网软硬件技术领域的快速发展,物联网设备在网络中的连接数量也日益剧增。Web服务是物联网设备中直接暴露在外部的攻击面,且普遍存在着安全漏洞。BinaryCGI作为物联网设备中Web服务进行数据处理的程序,若存在漏洞会造成严重的危害。基于模糊测试进行漏洞挖掘是目前在学术界和工业界都被广泛采用的解决方案,然而,由于物联网设备自身存在软硬件架构复杂、运行资源受限和程序封闭等特点,现有模糊测试框架运
在网络飞跃发展的时代,信息的提取变得轻而易举。与此同时产生了不计其数的数据量,造成“信息过载”。使用推荐系统可以有效处理该问题,因为它具备信息筛选的功能,可提供更具指向性的信息。近年来它被充分应用于多个领域,如电子商务、个性化广告、视频推荐等。隐语义模型(LFM)是推荐系统领域炙手可热的话题。其核心是通过分析已知特征,来寻找隐含的特征信息。但随着“信息过载”的进一步加剧,LFM仍面临诸多挑战,如可
中国国土辽阔,油气资源储藏丰富,在飞速增长的国民经济和能源消耗下对石油、天然气的需求不断提高。探索油气资源储藏规律,研究能源储存的地质结构,对于科学有效地开发和采集油气资源起着指导性的重要作用。地震物理模型成像技术是一种模拟地震波勘探情况的工具。它用超声波代替地震波,在理想的情况下还原地震波勘探的过程,弥补了现场勘探重复性、稳定性不足等问题,便于我们归纳和总结地震波传播规律,它建立了现场勘探与理论
人类的移动轨迹信息对于基于位置提供服务的应用具有重要意义,但是受到各种因素的影响可能得到的是不完整的轨迹,这会对下游任务(例如,轨迹匹配等)的性能产生影响,因此轨迹补全是一个亟待解决的问题。作为近年来一个比较新颖的研究方向,轨迹补全问题已经存在大量的相关研究,但是他们普遍存在以下三个问题。目前的模型大多采用循环神经网络来建模轨迹点之间的顺序关系,这使得各个位置之间存在的时空依赖性和轨迹中高阶复杂的
随着智能时代的来临,飞行器的使用成本越来越低,各式各样的无人机应用于摄影航拍、物资运送以及农业灌溉。基于这些应用场景,飞行器部件定位分割系统将会有助于空中飞行的安全监控,降低人力资源成本,将飞行器的管理精细化、模块化。本文基于深度学习的语义分割技术,对飞行器部件语义分割的算法进行了研究,主要工作如下:1)收集网上出现的所有无人机出现的场景图片,选取大小适中和画面清晰的无人机图片以及视频,进行语义分
医学图像能够帮助医生快速识别、诊断并治疗人体内疾病,但是仅仅依靠人力对人体特定的区域图像进行识别会消耗医生大量时间与精力并且错误率较高。以胎盘图像为例,采用图像分割技术能够快速地帮助医生区别出胎盘与复杂的背景,从而进一步帮助医生更好的完成胎盘组织定位。但是现有的传统与深度学习模型算法存在分割精度不高、模型复杂度过高等问题,这些缺点将会导致胎盘图像分割不准确从而导致医生诊断错误,继而产生严重后果。本
在大数据时代,各行各业都产生了大量的数据,这些数据分为结构化数据和非结构化数据。对于结构化数据,现已具有相当多且效果良好的研究方法。但各行各业产生的数据中有80%是非结构化数据,如文本、语音、视频等。短文本数据存在无规则、上下文信息稀疏以及语义和语法干扰等问题,为解决上述问题。本文引入文本分类技术,以增强用户对文档对象的认知与理解判断,从而帮助用户从海量文本数据中快速筛选出有价值的信息。本文以MO
我国城市化水平在近年稳步提高,但由于历史原因城市部分区域基础设施已经无法满足城市市民与日俱增的交通出行需求。交通拥堵、交通事故频发、汽车污染排放等一系列问题成为城市顽疾,交通矛盾日益凸显。对于解决以上矛盾,从城市交通信号控制角度入手,是国内外学者普遍认可的有效手段之一。在这样的情况下,本文通过信号控制优化区域交通流协调控制,对城市交通流短时预测方法展开深入研究,提出了交通子区划分方法,并以此为基础