近年来,深度神经网络在许多分类任务中已经达到了很高的准确率,这些任务包括语音识别,目标检测以及图片分类等。尽管深度神经网络对随机的噪声是具有鲁棒性,但是当对神经网络输入添加一些不能被人眼察觉的特殊扰动会使得深度神经网络模型输出错误的预测值。通常把这些添加了特殊扰动的样本称作对抗样本。为了使得深度神经网络的鲁棒性提升,对于深度神经网络防御对抗样本的方法进行了研究。在对抗防御的方法中包括三种:梯度遮蔽,知识蒸馏,以及对抗训练。本文主要针对深度神经网络对抗训练方法进行了研究,提出了三种对抗训练的方法,并且基于现有的一些攻击算法和提出的三种对抗训练的方法实现了对抗样本生成与防御的实验平台。主要工作内容和创新如下:首先,针对对抗样本的防御方法,提出一种基于特征蒸馏与度量学习相结合的对抗训练方法,这种方法是首先预训练一个固定的教师网络,该教师网络利用干净样本进行训练。学生网络利用对抗样本进行对抗训练,在训练的过程中,利用干净样本在教师网络的中间层特征进行引导对抗样本在学生网络的中间层特征,修复对抗样本在学生网络的中间层特征,达到好的正则化效果,同时考虑学生网络对抗样本与原始干净样本的关系,引入度量学习损失,在学生网络的中间层特征使得对抗样本与原始干净样本之间的距离比对抗样本与混淆类样本之间的距离更近,从而使得深度神经网络模型更加鲁棒。最后进行灰盒攻击、白盒攻击和黑盒攻击验证方法的有效性。提出的算法在对抗攻击的实验中显著超过了现有比较先进的对抗训练算法。其次,为了进一步提高深度神经网络模型的鲁棒性,提出两种利用度量学习改进的对抗鲁棒蒸馏算法。第一种方法是将对抗鲁棒蒸馏和度量学习在输出空间相结合。对抗鲁棒蒸馏算法是使得学生网络的对抗样本的分布尽可能的接近鲁棒教师网络干净样本的输出,度量学习一方面保证鲁棒教师网络干净样本的输出和学生网络中对抗样本输出之间距离更近,另一个方面保证鲁棒教师网络干净样本输出和学生网络最混淆类样本输出之间距离更远。因为对抗鲁棒蒸馏使得不同样本具有不同的输出,度量学习可以进一步加强对抗鲁棒蒸馏的效果,同时可以鉴别不同样本之间的差异,使得模型更加的鲁棒。第二种因为对抗鲁棒蒸馏鲁棒教师网络在训练的过程中对于学生网络产生的对抗样本的分类准确率不稳定,会出现不可靠的情况,要考虑学生网络对于自身对抗样本与原始干净样本的关系,这里选择度量学习对于学生网络的中间层特征进行约束,在学生网络的中间层特征使得对抗样本与原始干净样本的距离比对抗样本与混淆类的样本的距离更近,这样使得学生网络在学习鲁棒教师网络知识的同时考虑自身网络的学习情况,达到一种很好的正则化效果,提出一种基于内省正则化的对抗鲁棒蒸馏算法。最后进行白盒和黑盒攻击的实验验证算法的有效性。提出的两种对抗鲁棒蒸馏算法在白盒攻击中超过了对抗鲁棒蒸馏算法,在黑盒攻击中超过了现在比较先进的对抗训练算法并且与对抗鲁棒蒸馏算法相当。最后,针对现有的对抗击方法和提出的对抗训练方法,实现了对抗样本生成和对抗样本防御的实验平台,该实验平台能够实现上传图片并且生成相应的对抗样本,并且展示需要测试的样本的分类信息以及样本的预测值,验证了提出三种对抗训练算法在灰盒攻击、白盒攻击和黑盒攻击的实验效果。