近年来人工智能的迅速发展为计算机技术注入了新的生机与活力,深度学习凭借其优异的性能,已被广泛应用在多个领域,其中不乏安全敏感型领域,如自动驾驶。因此深度学习的安全性引起广泛关注,近期研究表明深度神经网络容易受到对抗样本的影响,由攻击者精心构造的对抗样本可能引起严重的安全事故,因此对对抗样本生成技术的研究有着重要意义。根据生成方法是否知晓网络内部信息如网络参数,分为白盒方法和黑盒方法。白盒方法能够充分利用模型信息,高效生成对抗样本,但受限于真实场景下很难获得网络模型的全部信息。不同于白盒方法利用网络模型相关信息,黑盒方法仅能访问网络模型的输入与输出层,因此黑盒方法非常依赖与网络模型的交互,访问频率高。此外,大多数白/黑盒方法存在不同程度的离散化问题。本文以神经网络对抗样本生成方法为研究课题,针对当前问题,做了如下工作:·本文提出了一种基于无梯度优化的神经网络对抗样本黑盒生成方法。该方法将对抗样本生成问题转化为优化问题,应用基于分类的无梯度优化方法求解,该优化方法对每轮采样进行标记,区分“好”和“不够好”,从而优化采样模型,生成更好的采样。该方法属于黑盒方法,不需要知晓网络内部信息,不受真实场景限制,同时该方法对采样过程进行设计,不存在离散化问题。·本文提出了一种基于无梯度优化的神经网络对抗样本生成通用函数式框架。为了提高上述方法的普适性,本文对该方法进行功能模块划分和抽象,得到了问题空间、评估系统和搜索策略三个模块,同时将模块内各组件符号化,并基于这些组件提出了一种可用于神经网络对抗样本生成问题的通用函数式框架,能够适应不同场景下的对抗样本生成问题,大大提高该方法的普适性。·本文为评估上述方法和框架设计了多组实验。实验方面选取两个不同规模的数据集MNIST和Image Net,选取白/黑盒共13个工具进行实验对比,实验结果表明本文提出的方法在可比的查询效率下,成功率更高且不存在离散化问题。同时本文提出的框架具有很高的通用性。