近年来,深度神经网络（Deep Neural Networks,DNNs）作为人工智能的研究热点,在图像分类、语音处理和自动驾驶等领域得到了广泛的应用与普及。然而最近的研究表明DNNs容易遭受对抗样本（Adversarial Examples,AEs）的攻击。对抗样本是一类被攻击者精心设计来愚弄深度学习模型的样本,它们与真实样本的区别几乎无法用肉眼分辨,但是却会导致模型以高置信度错误分类。对抗样本对深度学习在安全敏感性行业的发展和应用造成极大的负面影响,这些影响可能会引发深度学习驱动的识别系统彻底瘫痪,对自动驾驶等安全等级需求高的应用甚至会带来生命风险。因此对抗样本防御的研究在人工智能安全领域具有重要的意义。对抗样本防御主要分为主动防御和被动防御两种形式。主动防御能显著提高模型的鲁棒性,但训练开销和计算复杂度高;被动防御以检测的方式来区分干净样本和对抗样本,防御的开销很低,但检测的性能与检测器类型密切相关。随着对抗样本防御技术的不断发展,图像去噪作为一种有效的防御手段出现在人们视野中。图像去噪技术主要采用去噪算法对对抗样本进行预处理,从而减少对抗样本的微小扰动,使处理后的样本被模型正确分类。该防御技术能够有效减少样本的噪声,但由于去噪不能完全去除对抗扰动,剩下的微小扰动随着网络层数的加深而被逐渐放大,最终仍会使模型错误分类。此外,图像去噪会降低模型对原始样本的分类准确率。为了解决图像去噪防御对抗样本存在的问题,本文从对抗样本检测方面着手,通过分析模型对原始样本和去噪样本预测结果的差异性,提出了一种基于图像去噪的对抗样本检测技术,并设计实现了对抗样本检测原型系统。主要研究成果如下:本文提出了一种基于图像去噪的对抗样本检测框架。在该检测框架中,经过图像去噪前后,对抗样本输入到模型得到的预测精度变化显著,干净样本的预测精度基本没有变化。该框架基于模型对对抗样本和干净样本在图像去噪前后预测的差异性,对输入样本进行检测。本文提出的方法在不需要修改模型结构和参数情况下,能降低计算的开销,而且在主流的对抗样本攻击中表现出了卓越的检测性能。实验结果表明,该防御技术能有效检测FSGM、BIM、Deep Fool和C&W四种主流攻击算法生成的对抗样本,同时对干净样本精度的影响几乎忽略不计。除此之外,在提出的对抗样本检测技术的理论和实验基础上,本文设计并实现了一个基于图像去噪的对抗样本检测原型系统。系统主要由基于Flask框架的前端和基于Keras框架的后端进行开发的。实现了包括对抗样本生成、图像预处理和对抗样本检测等功能。