人工智能技术在越来越多的领域扮演着重要角色,给我们的生产生活带来了极大的便利,改变了人类的生产生活方式。神经网络模型已经广泛应用于人脸识别、自动驾驶、人脸支付、智能语音交互等场景,但是在图像识别领域,人工智能仍然存在着很大的安全问题。攻击者使用对抗样本在图像中加入肉眼不宜察觉的微弱扰动,从而干扰神经网络的决策结果,错误决策将导致智能电子系统运行异常,可能造成严重的安全事故,威胁到人们的生命财产安全。针对上述安全问题,本文基于网络安全攻防一体化的思想,主要研究对抗样本生成技术,重点关注如何扰动最少的像素,消耗最短的时间生成有效的对抗样本。本文对Deep Fool算法进行优化,提出了一种优化稀疏扰动算法,与现在的主流对抗样本生成算法相比较,该算法在具有更少的扰动像素数量以及更短的对抗样本生成时间的同时,可以产生优异的扰动效果;此外,在研究对抗样本在图像处理方面的鲁棒性的基础上,提出使用降噪自编码方法抵御对抗样本。本论文主要贡献为:（1）当前主流攻击算法主要针对l2范数或l?范数进行扰动,扰动范围不设边界,在生成对抗样本时通常需要扰动整张图像,时间成本较高。因此,本文提出一种优化稀疏扰动算法,该算法利用决策边界在曲率上的几何特征寻找对抗样本,将计算对抗样本的方法线性化为计算边界点与决策边界,其中边界点的计算采用Deep Fool算法,决策边界使用仿射超平面投影计算,与当前算法相比,能够扰动最少像素生成对抗样本。（2）对本文提出的优化稀疏扰动算法进行实验仿真。基于Image Net数据集,分别使用优化稀疏扰动算法对Alexnet模型、VGG-16模型以及VGG-19模型生成对抗样本进行横向对比,结果表明优化稀疏扰动算法对不同的模型均有较高的攻击成功率。使用Deep Fool算法、JSMA算法、CW算法以及优化稀疏扰动算法分别攻击Alexnet模型、VGG-16模型以及VGG-19模型,进行纵向对比,结果表明优化稀疏扰动算法能够以较短时间,修改较少的像素,达到较高的欺骗率,综合表现优于现在的主流攻击算法。（3）基于Image Net数据集,对已有对抗样本做图像旋转、滤波、修改对比度与亮度以及加噪处理,测试对抗样本的鲁棒性,结果表明进行图像预处理时,正常图像受影响较低,而对抗样本会产生较大的波动,可以利用该特点使用去噪自编码方法进行对抗样本防御。通过反向加权映射和误差迭代恢复原始图像,并在MNIST数据集上进行实验仿真,结果表明该方法能够有效抵御当前的主流对抗样本攻击。