【摘 要】
:
人工智能技术在越来越多的领域扮演着重要角色,给我们的生产生活带来了极大的便利,改变了人类的生产生活方式。神经网络模型已经广泛应用于人脸识别、自动驾驶、人脸支付、智能语音交互等场景,但是在图像识别领域,人工智能仍然存在着很大的安全问题。攻击者使用对抗样本在图像中加入肉眼不宜察觉的微弱扰动,从而干扰神经网络的决策结果,错误决策将导致智能电子系统运行异常,可能造成严重的安全事故,威胁到人们的生命财产安全
论文部分内容阅读
人工智能技术在越来越多的领域扮演着重要角色,给我们的生产生活带来了极大的便利,改变了人类的生产生活方式。神经网络模型已经广泛应用于人脸识别、自动驾驶、人脸支付、智能语音交互等场景,但是在图像识别领域,人工智能仍然存在着很大的安全问题。攻击者使用对抗样本在图像中加入肉眼不宜察觉的微弱扰动,从而干扰神经网络的决策结果,错误决策将导致智能电子系统运行异常,可能造成严重的安全事故,威胁到人们的生命财产安全。针对上述安全问题,本文基于网络安全攻防一体化的思想,主要研究对抗样本生成技术,重点关注如何扰动最少的像素,消耗最短的时间生成有效的对抗样本。本文对Deep Fool算法进行优化,提出了一种优化稀疏扰动算法,与现在的主流对抗样本生成算法相比较,该算法在具有更少的扰动像素数量以及更短的对抗样本生成时间的同时,可以产生优异的扰动效果;此外,在研究对抗样本在图像处理方面的鲁棒性的基础上,提出使用降噪自编码方法抵御对抗样本。本论文主要贡献为:(1)当前主流攻击算法主要针对l2范数或l?范数进行扰动,扰动范围不设边界,在生成对抗样本时通常需要扰动整张图像,时间成本较高。因此,本文提出一种优化稀疏扰动算法,该算法利用决策边界在曲率上的几何特征寻找对抗样本,将计算对抗样本的方法线性化为计算边界点与决策边界,其中边界点的计算采用Deep Fool算法,决策边界使用仿射超平面投影计算,与当前算法相比,能够扰动最少像素生成对抗样本。(2)对本文提出的优化稀疏扰动算法进行实验仿真。基于Image Net数据集,分别使用优化稀疏扰动算法对Alexnet模型、VGG-16模型以及VGG-19模型生成对抗样本进行横向对比,结果表明优化稀疏扰动算法对不同的模型均有较高的攻击成功率。使用Deep Fool算法、JSMA算法、CW算法以及优化稀疏扰动算法分别攻击Alexnet模型、VGG-16模型以及VGG-19模型,进行纵向对比,结果表明优化稀疏扰动算法能够以较短时间,修改较少的像素,达到较高的欺骗率,综合表现优于现在的主流攻击算法。(3)基于Image Net数据集,对已有对抗样本做图像旋转、滤波、修改对比度与亮度以及加噪处理,测试对抗样本的鲁棒性,结果表明进行图像预处理时,正常图像受影响较低,而对抗样本会产生较大的波动,可以利用该特点使用去噪自编码方法进行对抗样本防御。通过反向加权映射和误差迭代恢复原始图像,并在MNIST数据集上进行实验仿真,结果表明该方法能够有效抵御当前的主流对抗样本攻击。
其他文献
生物细胞中绝大部分生命活动都是由蛋白质来执行和完成的。已被鉴定并阐述功能的蛋白质有数万之多,但仍有很多蛋白质的功能未被发现,可以说人类探索生命奥秘的过程永无止境。本论文在研究动物杯状病毒【鼠诺如病毒(Murine norovirus,MNV)、兔出血症病毒(Rabbit hemorrhagic disease virus,RHDV)、猫杯状病毒(Feline calicivirus,FCV)】的致
随着新媒体的普及,网络平台成为了广大民众表达情绪和意见的主要阵地,这些情绪和意见形成网络舆情在网络平台上快速传播,其中一些网络舆情因有着巨大的影响力发展成网络舆情事件。在这些网络舆情事件中,因为公安机关有查清事件真相并公布于众的工作职责,所以有很多需要公安机关进行治理的,而公安机关在治理过程中也是不断摸索前进的,若是开展治理工作过程中有不当行为,可能会导致更严重的网络舆情事件。因此,对公安机关如何
抗美援朝时期,广大民众为支援前线而自发掀起了一场以订立和执行爱国公约为内容的伟大爱国运动。这场运动首先形成于工商界,随后在中国共产党的支持和引导下迅速发展到各行各业和全国各地,从而转变为一场有计划有领导的重要政治运动。工人阶级在这场运动中发挥了重要作用,特别是处于全国经济中心的上海工人群体。深入分析和研究上海工人在这场运动中的表现既是理解这场运动开展的一个重要视角,更有助于在当前社会背景下,重新唤
五四新文化运动时期,《时事新报》通过改革副刊和新闻栏目,将《学灯》打造成为重要的学术交流平台。依托庞大的销售网络,《时事新报》以捆绑销售的方式进一步扩大了报纸的发行量与影响力,为传播新思潮提供了广阔的平台。青年编辑以开放的心态接纳各种学说,为《学灯》传播社会主义思潮给予了高度支持。知识分子译介社会主义名著,撰文介绍苏俄革命及其他社会主义运动的发展情况。《学灯》的编辑们重视讯息的时效性,紧追五四风潮
科技是国之利器。《宪法》第二十条是中国宪法中发展科技的核心条款。在学界对宪法研究“乱花渐欲迷人眼”的当下,宪法总纲条款中的第二十条的研究却少有人涉足;在法学研究者醉心于规制科技发展的非理性时,却忽略了《宪法》第二十条明确规定的“国家发展科技”。研究《宪法》第二十条,其理论意义在于弥补学界对宪法总纲,尤其是《宪法》第二十条研究的不足;其实践意义在于通过解释《宪法》第二十条,能够从宪法的高度,规范讨论
为了完善我国新能源汽车产业,本文的研究考察了新能源汽车清洗技术的详细资料和综述,并首先描述了新能源的各种分布,故障和其他故障解释了由三个因素驱动的新车的故障,最后根据新车的分布和故障来介绍特殊维修。
政府购买服务作为解决单位内部事多人少矛盾、降低公共服务成本的有效形式,将政府资源与社会组织服务相链接衔接,是我国政府转变自身职能、主动学习创新改革的有效举措之一,也是加快政府职能转型、提升国家治理能力的必然要求。随着基层法院案多人少、事多人少矛盾的日益突出,人民法院系统也逐步引入政府购买服务模式,探索社会化外包服务辅助审判事务性工作处理。然而,由于一些不宜公开、敏感的案件信息作为国家秘密,案件全过
移动智能终端、互联网信息技术、互联网信息服务应用频繁的更新换代,极大的提高了人们的生产生活效率,这也导致互联网信息服务的专业性壁垒不断升高,违法信息隐蔽,难以发现和捕捉,多种信息内容重叠交错,呈现“牵一发而动全身”的新特性。然而,面对新特点,规制主体仍然采取传统的政府规制模式,以单一政府为规制主体,依靠不同信息的内容来划分主管部门,针对问题集中严重的领域采取集中整治的规制手段。行业乱象的屡禁不止反
宋元战争期间,元朝收编了大量南宋军人,并将其重新编入行伍,为新附军的形成创造了条件。忽必烈即位后,“新附军”逐渐代替“降军”,成为南宋降军的官称。除通行的官方称谓外,元人对新附军还有新附汉军、江南军、南军、蛮军、蛮子军、新军等诸多别称。由于新附军内部特点不同,新附军中也出现了新附生熟劵军、新附水军、新附炮手军、盐军、手号军、新附请粮官军等不同名号。南宋灭亡后,元朝统治者出于维护社会稳定、增强征服地
学前儿童数学学习观察与评价是早期数学教育的重要内容,评价学前儿童数学学习对数学教育质量的提升具有积极促进作用,积木建构游戏作为早期儿童教育中一种常见的活动和促进儿童认知发展的有效手段,受到了教育工作者的广泛关注。其与学前儿童数学学习存在着紧密联系,但积木建构游戏中对幼儿数学学习的观察与评价研究不足,所以本研究希望通过不同方法观察与评价幼儿积木建构游戏中的数学学习,试图为研究者和教育工作者观察、评价