【摘 要】
:
近年来人工智能的迅速发展为计算机技术注入了新的生机与活力,深度学习凭借其优异的性能,已被广泛应用在多个领域,其中不乏安全敏感型领域,如自动驾驶。因此深度学习的安全性
论文部分内容阅读
近年来人工智能的迅速发展为计算机技术注入了新的生机与活力,深度学习凭借其优异的性能,已被广泛应用在多个领域,其中不乏安全敏感型领域,如自动驾驶。因此深度学习的安全性引起广泛关注,近期研究表明深度神经网络容易受到对抗样本的影响,由攻击者精心构造的对抗样本可能引起严重的安全事故,因此对对抗样本生成技术的研究有着重要意义。根据生成方法是否知晓网络内部信息如网络参数,分为白盒方法和黑盒方法。白盒方法能够充分利用模型信息,高效生成对抗样本,但受限于真实场景下很难获得网络模型的全部信息。不同于白盒方法利用网络模型相关信息,黑盒方法仅能访问网络模型的输入与输出层,因此黑盒方法非常依赖与网络模型的交互,访问频率高。此外,大多数白/黑盒方法存在不同程度的离散化问题。本文以神经网络对抗样本生成方法为研究课题,针对当前问题,做了如下工作:·本文提出了一种基于无梯度优化的神经网络对抗样本黑盒生成方法。该方法将对抗样本生成问题转化为优化问题,应用基于分类的无梯度优化方法求解,该优化方法对每轮采样进行标记,区分“好”和“不够好”,从而优化采样模型,生成更好的采样。该方法属于黑盒方法,不需要知晓网络内部信息,不受真实场景限制,同时该方法对采样过程进行设计,不存在离散化问题。·本文提出了一种基于无梯度优化的神经网络对抗样本生成通用函数式框架。为了提高上述方法的普适性,本文对该方法进行功能模块划分和抽象,得到了问题空间、评估系统和搜索策略三个模块,同时将模块内各组件符号化,并基于这些组件提出了一种可用于神经网络对抗样本生成问题的通用函数式框架,能够适应不同场景下的对抗样本生成问题,大大提高该方法的普适性。·本文为评估上述方法和框架设计了多组实验。实验方面选取两个不同规模的数据集MNIST和Image Net,选取白/黑盒共13个工具进行实验对比,实验结果表明本文提出的方法在可比的查询效率下,成功率更高且不存在离散化问题。同时本文提出的框架具有很高的通用性。
其他文献
在我国,冶炼烟气是大气中SO_2的重要排放源,随着冶炼行业大气污染物排放标准的提高,净化冶炼烟气中的SO_2已成为急需解决的难题。本文以铜冶炼烟气为研究对象,针对铜冶炼烟气中SO_2浓度高、气量波动大等特征,提出一种铜冶炼烟气中SO_2的净化及脱硫液制备黄钠铁矾的方法。本研究采用铜渣尾矿制成的矿浆液相吸收冶炼烟气中的SO_2,达到净化烟气中SO_2目的,并对反应后脱硫液中的铁元素和硫酸根进行回收利
多聚焦图像融合是将同一场景下聚焦不同目标的清晰区域进行融合,来获得全清晰图像,在航空、医学、军事等领域应用十分广泛。该技术涉及图像分割、特征提取和特征层信息融合等多个技术难题,其中特征信息融合为核心问题。然而融合模型的设计常常忽略前后步骤的关联,为了解决模型设计独立和应用场景有限的问题,引入当下流行的深度神经网络技术。本文的研究内容包含以下几个方面:(1)分析研究了不同层次的图像融合方法的操作流程
电致化学发光(Electrochemiluminescence,简称ECL)是在化学发光基础上发展起来的一种新的分析方法,是化学发光与电化学结合的新的技术。它同时具有化学发光与电化学技术的优点,比如灵敏度高、选择性好、背景信号低、线性范围宽,反应可控等特点。目前,已有的电化学发光体系包括无机体系、有机体系和纳米材料体系。其中,无机体系主要包括钌配合物和铱配合物,有机体系主要包括蒽、芴、噻吩基三唑,
本文中,我们探讨了机器学习中的稀疏重构问题。针对非凸且NP-难的L0优化问题介绍了两种求解思想:L1正则化方法和贪婪策略。对于这两种求解思想我们列举出了相应已提出的算法。贪婪逆尺度空间流算法由自适应逆尺度空间流算法演变而来,同时结合了L1正则化方法的准确性和贪婪算法的高效性。本文介绍了精度矩阵的统计学意义,并将贪婪逆尺度空间流算法自然地推广到稀疏精度矩阵的重构中。最后,我们将贪婪逆尺度空间流算法重
随着大数据时代的到来,信息过载问题日益突出。如何从大量的非结构化的数据中找到对自己有用的信息成了急需解决的问题,在这种情况下,推荐系统应运而生。本文主要介绍了关于topN推荐的协同过滤算法和基于图模型的算法,针对本文用到的学生刷卡数据集,进行了符合实际的算法的改进。本文提出了两种新的描述商品在推荐列表中的位置的评价指标。针对协同过滤算法,我们提出了一种计算相似度时减少算法复杂度的算法。针对图模型算
作为全球的重大挑战之一,癌症和基因疾病正严重危害人类的生命和健康。前人研究表明,金属元素可以通过与脱氧核糖核酸(DNA)碱基鸟嘌呤结合,打开鸟嘌呤和胞嘧啶间氢键,或者选
近年来,手势交互受到越来越多的关注。同时,随着深度摄像头(如Kinect,Real Sense)的应用和人体姿态估计算法的发展,我们可以从图片或视频中获取人体的关键点坐标。虽然基于关
在计算机视觉的研究中,图像去模糊是一个广受关注但难度较大的问题。一幅模糊图像的形成,原因是多种多样的:相机抖动、物体运动、相机失焦等等,这也使得去糊工作因为需要考虑多方面因素而显得复杂。图像去模糊根据模糊过程中的模糊核是否已知,主要分为非盲去模糊和盲去模糊两种类型。而本文主要研究的盲去模糊则是去模糊工作中已知信息较少,难度也较高的一类工作。在盲去模糊的过程当中,模糊核与清晰图像的先验工作是相当重要
我国西南地区锌矿资源丰富,这些资源中有大量的低品位硫氧混合锌矿,其特点是:锌品位低,闪锌矿和氧化锌矿共生,结构复杂,碱性脉石成分和SiO_2含量高,因而不宜采用酸性浸出;虽然采用氨浸法可以避免碱性脉石和SiO_2的溶出,有利于减少试剂消耗,能够处理这类复杂锌矿,但采用氨浸法不能溶出硫氧混合锌矿中难溶的闪锌矿或铁闪锌矿,致使锌的浸出率降低。针对氨浸法存在的不足,并根据硫氧混合锌矿中CaCO_3含量较
近红外二区(NIR-Ⅱ,1000-1700 nm)荧光生物成像与常用的可见光(400-700nm)与近红外一区(NIR-I,700-1000 nm)相比,具有组织穿透能力更深和信噪比更高等优势,近年来得到了广泛的关注