面向深度学习安全的对抗样本生成算法研究

来源 :云南大学 | 被引量 : 0次 | 上传用户:okyshishuo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能的发展,深度神经网络在计算机视觉领域的各种任务都取得了突出的表现。各项基于计算机视觉任务的应用快速落地,如人脸识别、人脸支付、自动驾驶等等。然而,最近的研究发现,在干净的图像上添加一些人眼不可见的对抗扰动,可以使神经网络产生错误的结果。随着研究的深入,还发现这种脆弱性普遍存在于各种神经网络中。这引发了研究者们极大的兴趣,也引起了大家对于人工智能领域安全性的担忧。本文首先提出针对图像分类模型的中间层距离度量攻击方法(DMA)。传统的梯度攻击旨在以模型的损失最大化为优化目标生成对抗样本,而DMA则以最大化对抗样本与干净样本在模型中间层的距离为优化目标生成对抗样本。这种对抗样本的生成方式可以帮助了解模型在不同中间层的鲁棒性,从而探究模型脆弱性的原因。实验发现,结构相似的模型,在相似的层具有相似的鲁棒性,这表示模型的鲁棒性与其结构有关。同时,实验证明了这种基于中间层的攻击有助于提高对抗样本的特定任务可迁移性。其次,由于计算机视觉系统往往包含多种任务,传统的针对图像分类的对抗攻击限制了对抗样本跨任务的可迁移性。本文提出跨任务的中间层距离度量攻击方法(CDMA)。跨任务的对抗攻击,其源模型与目标模型的底层数据分布之间的差异,是对抗样本的跨任务可迁移性较差的原因。本文将对抗样本的跨任务可迁移性看作是异构域泛化性问题,泛化性的特征是生成高跨任务可迁移性对抗样本的关键。基于DMA,CDMA对中间层特征进行离散余弦变换获得特征的频谱信息,本文用公式证明了原始中间层特征仅包含了低频信息,更完整的频谱信息能够有效的提升特征的泛化性,从而提高对抗样本的跨任务可迁移性。实验证明了DMA和CDMA相较于传统的梯度攻击大幅度的提高了对抗样本的跨任务可迁移性,CDMA更是在目标检测和语义分割任务上都取得了更好的攻击效果。本文所提出的两种对抗样本生成方式,有效的提高了对抗样本的特定任务可迁移性和跨任务可迁移性,使对抗样本在复杂的CV任务中都能取得良好的攻击效果,因此,所生成的对抗样本对于评估模型的鲁棒性极具参考性。
其他文献
传染病一直被列为人类生存和进步的主要挑战,特别是新型冠状病毒于2020年初在全球范围内蔓延,截止2022年3月,全球新冠病毒已确诊病例超过3亿例,并造成了超过500万人口的死亡。因此,新冠病毒的传播预测和各地区重新开放时最佳防控策略的选择逐渐成为了研究热点。基于自适应复杂系统的多智能体模型在新冠病毒爆发初期极其缺乏高质量数据的情况下,通过敏感性分析合理设定模型中的参数,从微观层面建模来预测宏观世界
学位
随着深度学习在各个领域的巨大成功,深度神经网络(DNN)的鲁棒性和稳定性引起了越来越多的关注。但是,最近的研究证实,几乎所有DNN都存在对抗性示例问题,这意味着将DNN部署于现实生活中存在重大的安全隐患。目前,对抗攻击已经出现在图像识别,自然语言处理,目标检测等领域。在图像分类中,对抗攻击主要分为假阴性(Type II)攻击方式和假阳性(Type I)攻击方式。根据攻击者是否能够得到模型参数等信息
学位
<正>党的二十大报告全面系统总结了新时代十年生态文明建设取得的重大成就、重大变革,对新征程生态文明建设作出重大战略部署。报告鲜明指出,中国式现代化是人与自然和谐共生的现代化。这是以习近平同志为核心的党中央对中国特色社会主义生态文明建设认识的新突破,是习近平生态文明思想的核心主题。我们要深入学习领会,牢牢把握党的二十大关于加强生态文明建设的新部署新任务新要求,牢固树立和践行绿水青山就是金山银山的理念
期刊
边缘计算在靠近用户的一侧提供计算资源,避免了用户到数据中心的数据传输,可以有效减轻数据中心功耗和网络传输带宽的压力,提高服务的响应速度。随着5G和物联网技术的发展,很多延迟敏感性较高的应用,如自动驾驶和无人驾驶车辆等被部署到边缘网络。然而,单一的边缘服务器覆盖范围有限,且用户具有移动性,例如当用户从某个服务器的覆盖范围移动到另一个服务器的覆盖范围时,可能导致服务质量下降甚至服务中断。为了保证服务的
学位
当下,广大求职者的就业与否往往是一个事关国家或企业人才战略发展的关键问题。随着Covid-19疫情的大肆流行,世界经济已经显现出加速衰退的趋势,这无疑给各国的就业市场造成了空前巨大的压力。因此,就业问题一直是学术界的热门话题之一。然而,国内外在相关领域的许多研究都存在着诸多缺陷,这些不足主要体现在三个方面:其一,大部分研究方法仍然局限于社会学的传统方法,并未充分应用计算机技术;其二,大量研究所依据
学位
计算机视觉旨在识别和理解图像或视频中的内容。其具有定位、分类、检测和分割四大基本任务。其中目标检测的目标包括两个子任务:分类和边界框回归。然而在诸多研究者涌入目标检测领域,使得大量且高质量的深度学习框架被提出并开源,以提高通用目标检测的性能。这为目标检测提供了新的解决方案,当把深度学习的方法引用到目标检测后,可通过神经网络学习特征表达能力更强的特征信息极大地提高了目标检测算法的检测性能。当目标检测
学位
软件模块聚类通过将软件系统的源代码划分为小而有意义的部分,使得理解遗留程序成为可能。有效的软件模块聚类算法能够提高软件内部质量,对软件的维护和演化具有重要意义。本文针对软件质量评估的片面性问题,提出了基于软件模块全局稳定性和执行路径复杂度的新指标作为目标函数。此外,还设计了两种基于差分进化的多目标算法来解决软件模块聚类问题。最后,通过大量实验测试了新目标函数和两种算法的效果和性能。下面是本文的主要
学位
众所周知,深度神经网络(Deep Neural Network,DNN)已经在计算机视觉(Computer Vision,CV)、自然语言处理(Natural Language Processing,NLP)等领域取得了巨大的成功,越来越多的神经网络设计研究发现了一个现象:更复杂的网络拥有更好的准确性。复杂模型的结构往往都具有上百个网络层以及数千万个参数,因此,复杂网络的高精度是以增加计算成本和时
学位
软件生态系统在开源软件协作开发中发挥着重要作用。但随着软件生态系统的发展,由软件和软件涉众组成的内部结构变得越来越复杂。这种复杂性对人们深入观察和理解软件生态系统提出了挑战。然而深入观察和理解软件生态系统恰恰是更好地管理和建设软件生态系统的重要前提。本文选择目前最流行也是规模最大的Maven生态系统作为研究对象,从关系密切的软件和软件涉众的角度出发,观察和理解软件生态系统。首先,本文基于软件工件依
学位
在当前经济发展形势下,审计的地位日益提高。对于企业而言,企业在上市前需要通过IPO审计,成功上市后每个会计年度都需要对财务报表进行审计并公布审计报告为利益相关者提供信息。为了提高审计报告中的有效信息量以及为利益相关者带来更多公司信息,减少信息不对称而带来的决策、投资等风险,关键审计事项的相关审计准则在国内外先后颁布。本文主要围绕关键审计事项披露对审计质量的影响展开研究,引入审计收费和企业类型展开调
学位