【摘 要】
：
近年来,深度神经网络在图像识别、目标检测等计算机视觉任务中取得了突出表现。尽管如此,现有研究表明深度神经网络模型具有一定脆弱性,即在面对人眼难以察觉扰动的对抗样本时无法给出正确的预测输出。因此,研究对抗攻击过程有助于掌握对抗样本的特性,促进深度神经网络模型进行有针对性防御,从而为未来深度学习模型的安全防护提供指导。传统的对抗攻击方法通常基于梯度优化生成扰动,具有较大的时间复杂度,且生成的对抗样本图
论文部分内容阅读
近年来,深度神经网络在图像识别、目标检测等计算机视觉任务中取得了突出表现。尽管如此,现有研究表明深度神经网络模型具有一定脆弱性,即在面对人眼难以察觉扰动的对抗样本时无法给出正确的预测输出。因此,研究对抗攻击过程有助于掌握对抗样本的特性,促进深度神经网络模型进行有针对性防御,从而为未来深度学习模型的安全防护提供指导。传统的对抗攻击方法通常基于梯度优化生成扰动,具有较大的时间复杂度,且生成的对抗样本图像质量不高。基于生成对抗网络的对抗攻击方法作为一种学习型方法,能够通过生成模型和对抗损失优化学习快速生成样本扰动。尽管如此,现有的对抗攻击方法仍需要对图像全局进行无差别扰动,没有考虑图片中目标的内在特性,仍然面临扰动量大、迁移性弱两个问题。为解决上述两个问题,提出一种基于特征显著性感知的双流生成对抗网络攻击算法Fads GAN。具体来说,为解决全局无差别扰动带来的扰动量大的问题,提出基于掩码的双流生成对抗网络,通过设计扰动生成器和掩码生成器,在快速完成对抗样本生成的同时,进一步约束扰动范围,优化对抗样本质量;为解决对图像目标内在特征关注度不足带来的迁移性弱的问题,提出基于聚合梯度的特征显著性感知方法,利用聚合梯度捕捉目标相关的重要性特征,通过特征显著性相关的损失优化扰动生成,增强对抗样本的迁移性和鲁棒性,提高对抗样本在黑盒攻击场景下的攻击成功率。在CIFAR-10和Image Net子集上进行了实验,结果表明提出的Fads GAN算法与目前主流的攻击方法相比取得了更优的性能,其中在Image Net子集上以Mobile Ne V2为源模型进行黑盒攻击时较基线算法攻击成功率分别提升了3.52%和28.8%。进一步的实验分析表明,Fads GAN能够捕捉目标相关的重要性特征,在保证攻击成功率的情况下快速生成高质量的对抗样本。
其他文献
网络表示学习在网络处理相关领域发挥着越来越重要的作用。由于基础的表示学习已经不能满足不断扩大的网络规模对计算性能的需求,一系列处理大规模网络的模型被提出。这些方法将网络划分成为小的子图,再分别对子图中的节点进行处理,减少了算法的开销。但这些方法获取的子图过于碎片化,导致了一部分网络结构信息与节点的高阶邻居信息的损失,不仅忽略了不同子图在整体网络中位置信息的差异性,也没有考虑到网络中的节点可能同时属
在医疗领域研究中,深度学习模型被广泛应用于辅助医生进行疾病诊断、病灶定位、器官分割等。医疗决策这一高风险问题不仅需要模型具有良好的性能,更需要模型具有展示其决策依据的能力,即模型可解释性。在早期癌症等疾病中,遍布生理组织各个部分的病灶特征过于微小导致医生肉眼尚不能清晰分辨,模型解释更具难度。通过改进现有模型解释方法,依据模型预测结果对遍布医学影像的细节特征进行合理解释,据此提高分类模型性能,具有重
布局合法化问题要求给定若干个标准单元的全局布局,在满足标准单元之间不能重叠等约束的前提下最小化总单元位移。布局合法化是超大规模集成电路（Very Large Scale Integration,VLSI）物理设计中的关键环节之一,也是典型的NP难问题。为了满足集成电路复杂的设计需求,当前VLSI设计中通常包含不同行高的标准单元。因此,研究混合高度单元布局合法化（Mixed Height Cell
疾病早期诊断能够极大地减轻患者的痛苦、精神负担和经济负担,节约医疗资源。随着深度学习技术的发展,基于深度学习的医学影像分析成为研究热点。然而疾病早期影像中的病灶表现并不明显,甚至连有经验的医生也难以做出精准标注。现有的细粒度图像分类技术为疾病早期影像分析带来启示,但又面临缺乏精准病灶标注以及病灶与背景之间语义关系不明确等挑战。针对疾病早期诊断,研究用于疾病早期影像的细粒度图像分类算法具有重要的理论
作为自然语言处理领域的基础任务之一,文本相似分析常以文本相似性判断和文本相似度计算两种形式在搜索引擎等应用中起核心支撑作用。其中,文本相似性判断是定性分析,属于分类任务;文本相似度计算是定量分析,属于回归任务。目前主流的文本相似分析模型存在表示型模型准确率低、交互型模型检索效率低等问题,难以满足文本相似性判断和文本相似度计算对性能的不同需求,需进一步改进。针对搜索引擎、问答系统等实际应用对文本相似
库存路由问题（Inventory Routing Problem,IRP）研究供应链优化中库存管理与车辆路由的全局整合优化,在对客户销量进行预测的前提下,供应商需要制定每个客户的配送计划和配送路径,并在满足多种约束的条件下最小化库存与运输总成本。库存路由问题在工业界有非常广泛的应用,同时属于具有NP难度的经典组合优化问题,开展该问题的研究具有重要的理论价值和实际意义。多车辆库存路由问题（Multi
联邦学习是一种保护参与方数据隐私的分布式机器学习技术。针对联邦学习中恶意参与者和半诚实服务器可能导致系统遭受安全风险的问题,各种研究利用如安全多方计算、差分隐私和可信执行环境等技术为联邦学习系统提供安全性。针对半诚实服务器导致的安全问题,谷歌提出了安全聚合协议,该协议使用双重掩码和秘密共享技术保护各个参与方的梯度,防止半诚实的服务器发起攻击。然而,该安全聚合协议中仍然存在尚未解决的问题,一是需要在
平衡图划分（Balanced Graph Partitioning,BGP）问题需要将给定图的节点集合划分为6)个子集,在使节点均匀分布于各子集的同时,最小化顶点属于不同子集的边的数量。BGP问题属于NP完全问题,是集成电路物理设计等关键技术领域中的核心问题。研究BGP问题的高效求解算法,具有重要的理论和现实意义。为求解平衡图划分问题,提出了一种基于统计信息的数学启发式（Statistical I
随着物联网的发展和各种智能应用的普及,越来越多的计算密集型和时延敏感型任务出现,边缘计算通过将资源部署在网络的边缘,具有高带宽、低延迟的特性,可以更好地满足此类任务的需求。然而,由于许多任务都与特定的服务相关联,考虑到边缘云的存储资源有限,需要设计合理且有效的服务缓存策略以最小化边缘计算的系统时延。此外,如何实现任务卸载与服务缓存的协同优化以利用有限的资源最大化用户的体验度,也是一个亟待解决的问题
随着云平台的兴起和开发运维一体化的快速发展,容器虚拟化环境成为HPC（High Performance Computing）应用的主流部署环境之一。容器镜像构建一般依赖于用领域特定语言编写的容器镜像定义文件。镜像定义文件通常包含多种复杂的指令,人工编写耗时且易出错。据统计,在Github中超过34%的镜像定义文件不能成功构建容器镜像,镜像构建成功率约为66%。而在HPC领域,由于需要更加丰富的领域