随着人工智能的快速发展,深度学习技术不断成熟。卷积神经网络（CNN）模型越来越多地被用于安全关键领域,而模型预测的可靠性对于高安全和高风险的系统极其重要。在安全关键系统应用中不仅要求模型能够做出高置信度的预测,还需要明确指出预测的可靠程度,也就是能够表达预测的不确定性,从而防止系统完全依赖模型预测的置信度进行决策时,造成灾难性后果。因此研究CNN预测的不确定性量化方法对安全关键领域的可靠性保障具有重要的意义。证据理论作为一种处理不确定性推理问题的数学方法,具有表达“不确定”和“不知道”的能力,能够在无先验信息的条件下进行不确定信息建模和推理,在不确定信息的表示和建模方面具有显著的优势。本文开展了基于证据理论的CNN预测的不确定性量化方法研究,并将其应用于对抗样本和离群样本的检测任务。论文主要研究内容有:首先,研究了证据分类器的构建方法,其核心思想是把输入样本的特征向量映射为证据权重,再将证据权重合理转化为基本概率赋值函数并进行决策。本文以此为基础,将证据理论与CNN模型相结合,进行了证据分类器的重构工作,基于证据分类器的输出信息,提出了CNN预测的不确定性定量评估方法,用冲突值和不确定度从两个不同的角度对CNN预测的不确定进行量化表示,该方法实现简单且具有较强的扩展性。实验证明本文提出的方法可有效量化CNN预测的不确定性。其次,提出了基于不确定性定量评估方法的对抗样本检测方法,结合对抗样本的特点设计了不同的检测方案和检测策略,三个检测方案分别以冲突值、不确定度和混合方式进行对抗样本检测,检测策略包括全局阈值和分类别选取阈值,前者是考虑样本的整体情况,后者是考虑了不同类别样本之间的差异性。实验证明,在MNIST数据集上此方法对FGSM生成的Lenet-5对抗样本进行检测的AUC可以达到93.7%,而且按类别分别选取阈值的检测策略比全局阈值的检测策略效果好。最后提出了基于不确定性定量评估方法的离群样本检测方法,根据离群样本的特点和四分位数原理选择了不同的检测阈值,并采用不同的检测方案对离群样本检测,实验证明该方法同样可有效检测离群样本,在MNIST数据集和Fashion MNIST数据集组成的混合样本上进行检测的AUC可以达到93.9%。