随着计算力的不断增强以及数据的不断累积,深度学习正变得越来越受欢迎,被广泛应用于自动驾驶、人脸识别等领域。然而,深度学习却有着自身的缺陷,攻击者可以给一个正常样本添加人眼难以察觉的细微的扰动,使得深度学习分类器将其误分类,这种添加了扰动的样本被称为对抗样本。当前已经有多种针对对抗样本的防御算法被提出,然而单一防御算法往往容易在特定攻击下失效,可靠性较差因而很难实际应用。因此本文提出一种关于对抗样本的容忍机制,可以在一定程度上容忍较强的对抗攻击而不至于产生误判。本文首先定义了容忍度来预先衡量系统容忍出错的能力,同时提出了对抗样本恢复的概念。进一步地,本文根据集成学习方法设计了一个完整的对抗样本防御系统,包含检测与恢复,并对其中的容忍机制进行了分析。检测模块检测样本是否为对抗样本,恢复模块则是在已知图像为对抗样本的前提下恢复该对抗样本对应的真实标签。当前已有很多检测方法被提出,本文则主要讨论对抗样本的恢复及其容忍机制的问题。然后,本文提出两种对抗样本恢复方法:基于CLEVER距离的对抗样本恢复方法和基于第二概率的对抗样本恢复方法。实验表明,本文提出的恢复方法对经典对抗攻击生成的对抗样本均有一定的恢复效果。最后,将恢复方法组合成恢复容忍系统进行仿真。实验表明,对于经典对抗攻击算法所生成的对抗样本,在一定参数下恢复系统的性能优于单种恢复方法的平均,且系统参数越小,系统的恢复率越高;不断增加对抗样本的扰动程度来模拟本文提出的恢复方法被攻击的场景,发现容忍度越大,系统错误率上升越缓慢。