【摘 要】
：
深度学习在人工智能的研究应用中表现出极其强大的自主学习能力,这是因为深度神经网络是由多层非线性的结构构成,因此它能够学习各种复杂的高维特征以及拟合各种各样复杂的样本空间,这些特点使得它拥有非常强大的表达能力,因此在许多领域都获得了巨大的成功。但是在深度学习给人们带来巨大便利的同时,其背后也留下了许多的安全隐患问题,比如,它的算法缺陷、训练模型的鲁棒性以及用于模型训练的数据完整性等,其中对抗样本攻击
论文部分内容阅读
深度学习在人工智能的研究应用中表现出极其强大的自主学习能力,这是因为深度神经网络是由多层非线性的结构构成,因此它能够学习各种复杂的高维特征以及拟合各种各样复杂的样本空间,这些特点使得它拥有非常强大的表达能力,因此在许多领域都获得了巨大的成功。但是在深度学习给人们带来巨大便利的同时,其背后也留下了许多的安全隐患问题,比如,它的算法缺陷、训练模型的鲁棒性以及用于模型训练的数据完整性等,其中对抗样本攻击就是其安全隐患之一。对抗样本较为通俗的理解就是在干净的数据中添加一些经过人为精心构造的扰动形成的样本,这种扰动或者说噪音非常的小,人们肉眼不能轻易分辨出来是否有对抗样本,但在深度学习进行分类时,这些对抗样本可以“蒙骗”神经网络模型使得分类器分类错误,这样的话,若将对抗样本应用到自然语言处理、人脸识别、自动驾驶等领域将会有极大的可能对人们的生命财产造成严重威胁。本文针对深度学习模型中存在的对抗样本攻击安全隐患问题展开研究,主要工作与创新点如下:1、针对对抗样本和正常样本在通过分类器中各层激活函数输出后存在激活值分布不同的特点,本文提出并实现了一种基于激活值分布差异的对抗样本检测方法:在分类器的每一层经激活函数输出后都增加一个二分类器,所有的二分类器的输出形成一个特征向量,将该特征向量再次输入到一个二分类器,从而检测出对抗样本。2、通过研究去噪自编码器的工作原理,本文提出并实现了一种基于图像高阶引导编码重组的对抗样本恢复方法。该方法模型由编码器和解码器两部分组成,编码器为通常的卷积神经网络,解码器采用了U-net网络并加以了改进,目标函数中加入了分类器的高层表示。3、本文研究并采用了FGSM、BIM、MIFGSM、DEEPFOOL、C&W几种对抗样本生成方法,在以CIFAR-10为数据样本训练的VGG16模型的基础上,对基于激活值分布差异的对抗样本检测方法进行了验证测试。4、本文着重研究了Feature Squeezing、Mag Net、LID三种经典的对抗样本检测方法,并与本文提出的检测方法进行了对比实验。同时,着重研究并使用Com Defend方法与本文提出的恢复方法进行了对比实验。
其他文献
日益增长的能源需求、日益枯竭的石油储量,石油作为不可再生的能源,石油资源的剩余量正在迅速减少,激发了人们寻找清洁替代燃料的兴趣。正丁醇作为新型代用燃料由于其优异的物理化学性质收到了广泛的关注。本文是基于一台经过改装的单缸双燃料柴油机,进气压力和进气温度保持恒定,通过进气道喷射正丁醇,缸内直喷柴油,实现正丁醇/柴油双燃料燃烧过程,并重新定义柴油着火的判定方法,滞燃期,丁醇提前的燃烧量和提前燃烧的比例
本文通过带旁通阀的两级涡轮增压WP12重型六缸柴油机为研究对象,分别建立了压端旁通和涡端旁通两级增压系统模型,分析了关键参数间的影响规律,总结出一种带旁通的两级增压器关键参数优选方法,提出增压比和膨胀比最优分配原则约束方程。同时研究了带旁通阀两级增压系统两级功耗最少时,高压级增压器效率和旁通系数对关键参数的影响规律,找到了两种系统的等效关系,分析了差异性。研究结果如下:（1）根据压端旁通两级增压系
水资源一直是人类生存的必要条件之一,河川是我国水资源的主要来源之一。本文选取黄河源区2个典型水文站（吉迈站、唐乃亥站）1961～2012年共计52年、624个月的水文资料,在前人研究基础之上对黄河径流的基本数理统计特征和演变规律进行分析,并构建预测模型对黄河源区月径流序列、年径流序列进行预测分析,为相关部门以后开展水文预报工作提供参考依据。本文主要的研究内容和成果如下:（1）通过对黄河源区径流资料
凹土棒黏土（Attapulgite Clay）（以下简称凹土）的破碎环节是凹土提纯工艺环节中必不可少的一步[1]。目前来讲,凹土破碎都是采用先烘干,然后破碎的方式。这种破碎方式会对凹土的物理键产生破坏,影响凹土质量,同时烘干过程会对环境造成破坏,对资源也会造成极大浪费。为解决此问题,提出直接对凹土潮矿（潮矿——刚挖出的凹土矿,未经烘晒等处理）进行破碎,但是采用目前的破碎机破碎凹土潮矿的效果并不理想
国家车辆事故深度调查体系（National Automobile Accident In-Depth Investigation System,NAIS）中的自行车事故表明,部分骑车人在临碰时会采取应急姿态来规避危险,不同应急姿态的骑车人与车辆发生碰撞后损伤有显著差异。因此研究不同应急姿态下骑车人损伤和运动响应过程,对自行车骑车人保护及车辆前部结构优化有十分重要的意义。通过对汽车-自行车碰撞事故中
水轮机压力脉动及水力振动是水电站十分复杂的稳定性问题,也是水轮机的常见问题。水轮机压力脉动及振动不仅会引起机组功率摆动,转轮叶片开裂,还会出现啸叫声,厂房振动、甚至机组损坏,造成巨大的经济损失,因此对水轮机进行压力脉动及水力振动的研究具有重大的经济效益和社会效益。本文针对某电站的四号机组在以上工况出现压力脉动和振动异常的情况,开展了水轮机振动测试和内部流场数值计算分析,研究结果为电站安全运行,合理
消能设计是水工建筑物设计重要工作之一,良好的消能设施通过消减消力池内水流动能,一方面防止水库下游尾水渠受到冲刷,另一方面还能提高水工建筑物的稳定和安全。在小型水利工程水库除险加固工程中,常因地形原因使得消力池长度和深度在实际实施中难以达到设计值,运行时造成消力池和尾水渠被冲毁等问题,使得大坝安全泄洪受到威胁。可见,研究小型工程溢洪道对于改善溢洪道安全稳定运行具有较大的意义。本文借助数值模拟方法研究
全球水文变化对全球生态系统有着非常重大的影响,水文的模拟与估计是水文变化研究的一项重要内容。其中关于水位、流量等水文要素的精确估计,在水文水资源资料整编、水库调度与运行、预防洪水以及工程设计与施工中占有非常重要的地位。本文采用大渡河流域2007年-2010年的实测水位流量数据作为研究对象,对河流水位流量的内在联系进行探索,建立最小二乘流量估计模型、BP神经网络流量估计模型、RBF神经网络流量估计模
为了观察空间目标的运行状态,通常会用到空间目标成像技术。但在实际过程中,由于大气湍流的遮挡、随机噪声的干扰以及成像设备观测能力的局限性,多数情况下只能获得退化的空间目标图像。退化的空间目标图像中包含的信息非常有限,而通过清晰的空间目标图像可以清楚地观察到空间目标的位置、轨迹、姿态等信息。这些信息在后期对空间目标进行检测、跟踪、调节等操作中起着关键性作用。此外,从清晰的空间目标图像中还可以快速地发现
在线笔迹签名在PC端、移动端等各领域广泛应用,虽然目前的在线鉴别方法很多,但还没有一种达到实际应用的高精度方法。因此,充分挖掘原始在线笔迹数据的价值,提出精度更高的在线笔迹鉴别方法,是一个值得深入研究的问题。本文深入研究了在线笔迹鉴别的方法,介绍了笔迹鉴别的各种方法,发现即使是同一人的两个在线笔迹信息（比如压力等动态信息）,也会因为前后时间、环境等因素而产生差异,有时候这种差异甚至是巨大的,这对在