深度神经网络（Deep Neural Network,DNN）作为人工智能最杰出的代表,被广泛应用于各个领域。然而,近期研究表明,高精度DNN模型极易受到对抗样本的攻击。对抗样本是人为经过特定对抗攻击算法所生成的恶意攻击样本,能在不影响人类正常视觉辨别的同时,使DNN模型产生高置信度的预测错误或分类错误。对抗样本揭露了DNN易被攻击的特性,是DNN巨大的安全漏洞。因而提升DNN对对抗样本的防御能力,有利于提高DNN的鲁棒性,对DNN的后续应用和研究具有重大意义。本文从对抗样本的成因、对抗样本检测以及对抗训练等方面,针对如何提高DNN模型的对抗鲁棒性这一问题进行探讨,具体研究内容如下:（1）提出陷阱式集成对抗防御网络Trap-Net。首先从模型的特征空间角度出发,提出可攻击空间对抗成因假说。该假说以目标数据流形为中心,设特征空间可分为不相交的两个空间区域,其中一部分是目标数据流形所占据的特征空间,另外一部分是未被训练集标注的,可能暗藏对抗样本的可攻击空间。Trap-Net基于可攻击空间对抗成因假说,对暗藏对抗样本的可攻击空间进行针对性处理,从空间根源处消除对抗样本。作为一种对抗样本检测方法,无需设计和构建新的外部模块,且不依靠生成的对抗样本所提供的信息。Trap-Net通过陷阱类数据标记可攻击空间,并通过探测输入数据是否命中靶标可攻击空间以判断数据是否为对抗样本。实验结果表明,Trap-Net可在不损失干净样本分类精确度的同时具有很强的防御泛化性。在低扰动白盒攻击场景中,其探测率达85%。在高扰动白盒攻击和黑盒攻击场景中,其探测率几乎高达100%。（2）提出填充式对抗训练防御方法P-AT。该方法通过填充类数据生成方法生成填充类数据,标注可攻击空间的存在区域,可以在提升对抗训练防御泛化性的同时,将对抗样本检测与对抗训练两种对抗防御方法相结合,进一步提升模型的整体对抗鲁棒性。实验结果表明,P-AT可在低扰动条件下保持对抗训练所提供的对抗鲁棒性,在高扰动条件下以80%～98%的准确率对输入数据是否为对抗样本进行检测。此外,P-AT相较于传统对抗训练方法具有更强的对抗防御泛化性,同时P-AT可提升20%的对抗训练的防御扰动上限。（3）设计并实现深度神经网络鲁棒性增强系统。首先对系统进行需求分析,并对整体架构和模块进行相应的设计,最后结合Trap-Net以及P-AT进行实现。用户可使用该系统上传模型,选择数据集并设置参数,并使用以上两种方法对目标模型进行鲁棒性增强,通过使用预设的对抗攻击算法测试,目标模型的鲁棒性明显提升。