近年来,得益于海量多媒体数据的获取、强大神经网络算法的提出以及硬件层面计算能力的大幅提升,深度学习取得了前所未有的成功。然而,大多数机器学习任务的实现过程并未刻意去考虑敌对方的存在,这种缺陷导致了机器学习模型极易受到恶意用户的攻击。最近的研究发现,通过在原始测试样本中添加精心设计的扰动,该样本就会被模型误分类为特定类别或错误类别,即使该测试样本之前有很高的置信度为正确类别。该扰动被称为“对抗噪声”,添加对抗噪声后的能使模型产生误分类的样本被称为“对抗样本”。对抗样本的威胁不仅仅是简单地改变分类结果,还能对一些关键安全领域如自动驾驶、生物特征认证系统等带来严重隐患,给公民的生命财产乃至国家安全造成极大的威胁。为了应对对抗样本带来的威胁,已有一些防御方法被学者们提出。尽管当前防御方法取得了一定的效果,然而遗憾的是,这些防御方法或多或少存在一定的局限性,并且很容易被不断进化和变种的攻击方法所绕过;同时,对抗样本由于其独特性,也导致以特征匹配为代表的传统安全技术不能胜任此防御工作。因此,本文将针对目前已知的对抗攻击特点以及防御方法的不足,研究更为有效的对抗样本防御方法,从而提高深度学习模型的鲁棒性,并最大限度上排除人工智能发展过程中存在的安全风险。总体来说,本文所做的工作主要包括以下两个方面:（1）基于大多数对抗样本生成算法采用迭代验证以及0范式生成的对抗样本与原始样本相比像素点修改量少的观察,提出一种破坏对抗样本迭代过程的防御方法,该方法使用感知哈希作为判断层,并附加时间层以避免攻击者通过时间分析防御方法。针对白盒攻击的三种深度模型的防御结果表明,该方法平均能降低36.3%的攻击成功率;针对黑盒攻击的六种主流的深度模型防御结果表明,该方法平均能降低74.8%的攻击成功率。与现如今的防御方法相比,该方法不需要附加其他的网络,因此具有轻量、灵活的特性。（2）基于对抗样本的激活区域与正常样本的激活区域存在偏差以及对抗噪声之间存在一定的整体性的观察,提出一种赋予模型“识错能力”来破坏对抗样本整体性的防御方法,我们称之为Just One More Time（JOMT）,该方法使用热力图以提升模型可解释性,并结合两种图像处理的方式进行预测不一致检测。大量的实验表明,该方法能在保证原始深度模型准确率的前提下,更好地检测出对抗样本;与其他防御方法进行对比后的结果表明,该防御方法具有更优的效果。且与其他方法不同,该方法是基于加噪思想进行防御的。