面向图像AI识别的对抗攻击算法研究

来源 :郑州大学 | 被引量 : 0次 | 上传用户:tftaofeng
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
以深度学习为核心的人工智能算法被广泛应用于自动驾驶、医疗诊断等重要领域。然而,深度神经网络的不可解释性造成了其预测结果的不可控性,这使得人工智能算法相关应用和部署都面临着巨大的安全威胁。对抗样本是一类通过特殊设计,并在数据中加入人眼不可察觉的扰动,使得神经网络模型预测结果发生混淆和错误的特殊样本。此类样本是深度学习不可解释性所导致的安全漏洞,常被用于攻击深度神经网络,同时也揭示了人类大脑与神经网络对于事物认知规律的差异性。因此,探索对抗样本生成算法和对抗攻击算法对深度神经网络的安全性、以及深入理解深度学习模型可解释性等具有重大意义。然而,现有针对图像识别的对抗样本生成算法仍存在生成效率低、样本质量不高、进行对抗攻击时迁移性不稳定等问题。本文充分利用图像隐空间信息,将对抗样本生成问题转化为对抗分布搜索问题,提升对抗样本生成效率。在此基础上,根据不同颜色通道中分布图差异执行跨通道局部加噪方法,优化对抗样本质量。进一步,改进搜索网络模型,探索更具迁移性的对抗扰动分布。本文主要研究内容包括以下几个方面:(1)提出一种新的对抗样本生成算法LSS-Adv——利用隐空间特征搜索网络在隐空间搜索对抗扰动分布以提升对抗样本生成效率。针对现有对抗样本生成算法的样本生成效率较低,而利用生成式对抗网络生成对抗样本的算法收敛过程难以达到稳态的问题,本文提出只利用一个隐空间特征搜索网络,在图像自身隐空间中探索可作为对抗扰动的分布。单网络结构使得收敛过程更加稳定快速,训练时间缩短。并且,训练好的隐空间特征搜索网络有效提升了对抗样本的生成效率,能够在12.34s内生成1000张对抗样本,在Image Net-1000图像数据集上攻击成功率达到96.17%。(2)提出一种新的对抗样本质量优化方法CCL-Adv——对于同样的扰动值总量,在不同颜色通道的分布图上进行合理分配,提升对抗样本质量。传统对抗样本生成算法直接全局加噪,并基于lp限制约束像素值大小以实现对抗扰动的视觉不可察觉性,无法摆脱对机器判断的依赖,使得视觉效果与攻击强度相互制约。针对上述问题,本文提出充分探究不同颜色通道的特性,利用跨通道局部加噪方法优化扰动配置,得到能够平衡视觉效果与攻击强度的高质量对抗样本。(3)提出一种可迁移的对抗攻击算法HDSAttack——将低维稠密信息映射为高维稀疏信息以提升对抗攻击迁移性。针对现有对抗攻击迁移性不稳定的问题,本文提出将样本从低维稠密的输入空间映射到高维的隐空间中,以扩大搜索空间,获取更多有效信息。同时利用KL散度对整个训练过程进行稀疏性限制,获得线性可分的高维稀疏信息,便于有效信息的高效搜索。进一步,对多个目标网络进行集成攻击,使得搜索网络学习更多神经网络结构信息,以提升对抗样本迁移性。实验结果表明,相比于传统沙漏型自编码器结构,本文提出的搜索网络结构能够提升10.39%的迁移攻击成功率。综上所述,本文算法不仅提升对抗样本生成效率以及对抗样本质量,并且一定程度上提升了对抗攻击迁移性,为后期深入理解对抗攻击以及神经网络算法提供了基础。
其他文献
随着社会经济的发展,我国进入了中国特色社会主义新时代。当前,人民日益增长的美好生活需要与不平衡不充分的发展之间的矛盾日益突出,转变为国家新的主要矛盾。为此,我国提出了“基本实现国家治理体系和治理能力现代化”这第五个现代化目标。而媒体问政作为新一代监督方式随之出现,创新了媒体监督、群众监督、舆论监督手段,推动我国责任政府建设,拓宽了我国公民参与渠道。平潭综合实验区作为全国唯一一个先行先试地区,在福建
学位
聚合物浸渍处理能显著提高水泥基材料的使用性能,因而在海工结构防腐、在役混凝土结构修补、预制构件浸渍等领域有潜在应用价值,对实现混凝土结构全寿命周期管理有重要作用。聚合物浸渍技术的推广需要对浸渍处理过程及处理后水泥基材料的性能表现开展相关试验研究。本文以甲基丙烯酸甲酯(MMA)与甲基丙烯酸丁酯(BMA)为浸渍材料,对聚丙烯酸酯浸渍砂浆开展了力学性能、耐久性能及微观试验,探究浸渍和聚合条件对聚丙烯酸酯
学位
本文旨在研究公司的创新研发投入及产出对于企业供应链整合程度的影响。文献表明,企业的垂直方向的并购活动区别于其他类型的并购,具有一定特殊性:公司进行供应链上下游垂直整合的动因受到内外部市场交易成本理论与产权理论的正反两方面影响。公司研发创新活动是一个长期过程,经历初期投入,后期研发费用资本化,最终形成专利等无形资产。因此在创新活动的不同阶段,创新研发活动的也不确定性不同,对于企业市场交易成本及垂直并
学位
个人数据反对权是加强数据主体对自身数据自觉自控的一项重要权利,其运行机制兼顾权益保护与数据自由,体系定位与其他数据权利具有紧密的内在联系和行权逻辑。作为个人数据权利保护的先行者,欧盟率先采取赋权模式建立起较为成熟的个人数据反对权制度,为世界提供了最为典型的立法例。通过梳理欧盟个人数据反对权的设权历程、剖析其实施效果可以发现,个人数据反对权的权能范围和行权规则有待进一步明确和细化,以增强权利的适用性
期刊
家族企业作为我国国民经济不可缺少的一部分,目前已经进入了传承高峰期。然而根据普华永道2018年家族企业调查显示,我国家族企业较少有详细的继任规划,并且传承后家族企业普遍出现了业绩下滑的现象。面对这种困境,家族企业在传承时往往会采取特定财务行为以求平稳度过权力交接期,具体包括慈善捐赠、组合创业以及继任前储备等。二代涉入是家族企业传承的重要标志,但现有文献还未对二代涉入如何影响现金股利这一问题展开研究
学位
我国地方人大代表基数广、数量多、规模大,在各级人大代表处于主导性地位。他们履职成效高与低、实与虚直接决定了我国人民代表大会制度能否在各地充分发挥作用、人民群众利益能否更好实现。目前,我们清楚的看到,地方人大代表存在履职成效仍不够明显、作用发挥仍不够到位等问题。新时期,公民权利意识和政治意识不断提升,他们对代表自己行使权利的人大代表的言行更加关注,对人大代表是否充分代表自己行使权利更加关心,这就要求
学位
目的:分析克罗恩病(CD)患者正念水平现状以及影响因素,为制定提升CD患者正念水平措施提供依据。方法:分析2019年5月—2022年3月我院治疗的CD患者152例,采用一般资料调查表、正念注意觉知量表(MAAS)、社会影响量表(SIS)、社会支持评定量表对所有患者进行调查研究,通过单因素和多元线性回归分析CD患者正念水平影响因素。结果:152例克罗恩病患者MAAS总分为(58.35±10.32)分
期刊
形状记忆聚合物(SMPs)是一种智能材料,能对外界刺激作出响应。根据驱动方式的不同,SMPs可以分为热驱动型、电流驱动型、光驱动型、磁驱动型和溶剂驱动型SMPs。常见的SMPs大多数为热驱动型SMPs,热驱动型SMPs的形状记忆过程需要外部环境提供持续存在的热源,而间接驱动的方式使SMPs可以在一些特殊场所被应用,例如外太空,人体等。根据形状记忆过程是否可逆,SMPs可以分为单向SMPs(1W-S
学位
2019年底至2020年开春,新冠肺炎疫情的爆发给各行各业发布了一场历史大考,这也是对我国治理体系和能力的一次大考。在这过程中,社会思想舆论成为了战役的“分战场”,倘若健康信息传播不到位,或出现舆论危机,则容易出现人心惶惶,危及社会和谐稳定。因此,在突发公共卫生事件中,健康信息的正向传播是缓解社会大众的恐慌心理、稳定老百姓的情绪的重要方式。但是,学界在对突发公共卫生事件的研究中,从地方公立医院在健
学位
就业是民生之所系,是经济之所固,是社会稳定之所依。国家依托公共就业服务这一重要抓手,充分发挥其在劳动力市场有效调节、施行就业与社会保障政策、提高劳动者知识技能和保障就业弱势群体等方面的效用,确保社会稳定、民生福祉和充分就业目标的实现。新时期就业工作面临着劳动力总量、人口老龄化、新技术变革等多重因素层层加码加压的局面。科学合理地评价公共就业服务质量,可以帮助政府充分了解和诊断现有服务过程中的问题,有
学位