深度学习可以从原始输入特征中以更高和更抽象的层次表示来提取数据的复杂性,从而实现各种功能。这使得深度学习在各种领域中取得了重大进展:图像分类、对象识别、对象检测、语音识别、语言翻译和语音合成等。在大数据、硬件加速和学习算法的推动下,深度学习为不断增长的实际应用和系统提供了支持。智能语音助手,推荐系统和自动驾驶等系统正成为生活中不可或缺的部分。尽管在众多应用程序中都取得了巨大的成功,但最近的研究发现深度学习模型容易受到精心设计的输入样本的攻击。这些样本被称为对抗性样本,对抗性样本可以欺骗深度学习模型,但对人类的判断影响很小。为了更好的研究对抗性样本并有效的降低对抗性样本的危害,本文将重点关注于针对对抗性样本的保护技术的研究与实现。主要涉及基于细粒度检测的多版本防御技术,基于数据可解释性的主动防御优化方法和基于关键节点的对抗性攻击和防御方法的研究三个方面。首先,针对目前防御方法无法防御所有的对抗性样本攻击的问题,提出了基于细粒度检测的多版本对抗性防御方法。研究了典型的对抗性样本攻击的攻击性能和攻击特点,设计了一种基于范数的对抗性样本分类和定级规则,将现有的对抗性攻击分为六种类型。测试针对这六种对抗性样本攻击的十种典型防御方法的防御性能,并且推荐了针对每种类型对抗性攻击的最优防御方法。然后,针对对抗性样本被动防御方法的高时间成本问题,提出了一种基于数据可解释性的防御方法以低时间成本抵抗对抗性攻击。根据输入样本的可视化结果,提取其分类关键区域。在分类关键区域上进行了一系列输入转换。通过初步实验对基于数据可解释性的防御方法进行了评估,证明了该防御方法的有效性。最后,研究了使用关键神经元节点来加强对抗性样本攻击和防御。通过对对抗性扰动在深度神经网络模型的单层和多层中的传播进行建模,观察到关键神经元节点在扰动传播中起主要作用。基于此观察,提出基于关键神经元节点的非目标攻击和目标攻击,并进一步设计了基于关键神经元的对抗训练方法。通过实验对基于关键神经元节点的攻击和防御方法进行了评估,证明了这些方法的有效性。