随着卷积神经网络的高速发展,卷积神经网络在人脸识别、图像分类、医疗分割等多个人工智能领域取得巨大成功,其应用也越来越广泛。然而,近期研究表明卷积神经网络易受到对抗样本的攻击。攻击者通过向样本中添加一些人眼难以识别的微小扰动,就能使卷积神经网络做出错误的识别。对抗样本的存在严重威胁到卷积神经网络类应用的安全,因此研究如何防御对抗样本是很有必要的。目前防御对抗样本的方法面临着两个问题:1)使用对抗训练的方法进行防御,增大了对训练数据的需求量,且对新攻击算法鲁棒性差;2)使用模型修改的方法,操作复杂度高,防御性能低。针对上述问题,以防御对抗样本为目标,提出基于Bit位修改的对抗样本防御算法,本文主要工作如下:1)提出了一种基于全局与局部Bit位修改的防御算法。为降低操作复杂度,采用样本修改的方法进行防御。针对对抗样本中扰动特点的不同,设计全局与局部的Bit位修改方法进行防御。在全局Bit位修改算法中对输入图像的全局像素进行Bit位修改;在局部Bit位修改算法中,首先利用图像局部像素之间的相关性确定添加扰动的像素,然后对该像素进行Bit位修改。本文将以卷积神经网络中分类模型为载体,使用FGSM、BIM、Deep Fool、JSMA、C&W这5种常见的攻击算法,在mnist和cifar10数据集中对本文算法的防御效果进行验证。实验结果表明通过全局或局部的Bit位修改方式能够有效防御特点不同的对抗样本,对部分攻击的防御成功率可以达到98%。2)为了降低选择Bit位修改方式时人为因素的影响,本文设计了一种基于自适应Bit位修改的防御算法。该算法能够自动选择Bit位修改的修改参数以及修改方式,实现对具有不同特点的对抗样本的防御。实验结果表明,对mnist数据集上生成对抗样本的综合防御成功率达到87%,对cifar10数据集上生成对抗样本综合防御成功率达到71%,有效地提高了卷积神经网络对对抗样本的分类准确率。3)最后开发了针对对抗样本攻击与防御的展示系统。用户可以通过直接上传或作画图像,选择攻击方法生成各种参数下的对抗样本并查看识别结果,选择防御方法查看针对已生成对抗样本的防御效果,整个过程简单易用。