近年来,深度学习技术发展迅猛,在很多具有挑战性的机器学习任务上都表现出了较优的性能,比如图像分类,自然语言处理,语音识别等。与此同时,它开始融入我们的生活,改变了我们的生活方式,日益成为生活中不可缺少的一部分,自动驾驶,高铁站的人脸识别,支付宝的刷脸支付等都不乏深度学习技术的身影。然而,最近一些学者却发现深度学习模型存在安全隐患,容易受到对抗样本影响。对抗样本,是在数据集中故意添加人眼无法察觉的细微干扰所形成的样本,它能够以很高的置信度使得分类模型输出错误的结果,这给深度学习研究提出了更多的挑战。自对抗样本被发现以来,很多学者致力于研究对抗样本的防御方法,取得了突出的结果,但是至今为止还没有一种能够完全消除对抗样本威胁的方法。本文针对这一现状,从解决深度学习中卷积神经网络出现的对抗样本问题出发,提出了基于监督机制的对抗样本防御措施与基于噪声注入的RBF深度神经网络模型,它们在一定程度上能够有效地防御来自对抗样本的攻击,而且不需要额外的训练集,减少了开销。本文的主要研究内容和贡献有:1.使用了FGSM,Deep Fool,BIM以及C&W四种常见攻击算法对MNIST,CIFAR-10和Fashion-MNIST数据集进行攻击,提出了三种威胁模型,用于衡量与分析本文的方法在不同情境下的性能。2.提出了基于监督机制的对抗样本防御模型。该模型在原始卷积神经网络中添加了监督层,并通过改进损失函数,提高了模型的鲁棒性和对对抗样本的防御能力。使用Le Net-5与VGG网络作为原始网络模型,基于Benchmark数据集MNIST与CIFAR-10进行实验。实验结果证实了本文提出的方法不会影响模型在干净样本中的分类性能,而且能够有效地应对攻击者的迁移能力,增加攻击者的攻击难度。3.提出了基于噪声注入的RBF深度神经网络模型。该模型基于原始神经网络,通过利用RBF神经网络的逼近以及高斯噪声的恢复能力,使得网络模型分类更加鲁棒,分类边界更加平滑。基于Benchmark数据集MNIST与Fashion-MNIST,通过实验验证了本文提出的模型不仅能够防御对抗样本的攻击,而且还能对攻击者的二次攻击具有鲁棒性。