【摘 要】
：
多标签图像分类（MLIC）广泛应用于场景理解、多目标识别、视觉问答等领域。虽然基于深度卷积神经网络（CNN）在图像分类中表现出了能够媲美人眼识别率的精度和性能,但基于CNN的分类模型已经被证明非常容易受到对抗样本的攻击。因此,对于MLIC系统的安全性研究成为一个亟待解决的问题。本文结合现实场景中多标签图像分类器的应用情况,对多标签图像攻击算法开展了研究。其主要内容包括:1、本文提出在多标签图像对抗
论文部分内容阅读
多标签图像分类（MLIC）广泛应用于场景理解、多目标识别、视觉问答等领域。虽然基于深度卷积神经网络（CNN）在图像分类中表现出了能够媲美人眼识别率的精度和性能,但基于CNN的分类模型已经被证明非常容易受到对抗样本的攻击。因此,对于MLIC系统的安全性研究成为一个亟待解决的问题。本文结合现实场景中多标签图像分类器的应用情况,对多标签图像攻击算法开展了研究。其主要内容包括:1、本文提出在多标签图像对抗攻击中,除了在单标签图像分类中引入的目标攻击和非目标攻击之外,还有一种针对多标签图像的新型攻击,即针对目标标签的非目标攻击。结合实际的应用场景给出了多标签图像指定目标标签非目标攻击的定义。2、提出多标签图像指定目标标签非目标攻击（UTLA）的算法模型,利用梯度迭代方法实现多标签图像的攻击算法。针对多标签图像标签之间存在共现关系,提出利用梯度类别响应图Grad-CAM裁剪扰动范围,减少攻击扰动对共现标签的影响,有效提高对指定类别标签的攻击成功率。3、针对实际应用场景中分类网络模型未知的黑盒情况,提出利用CNN模型之间的迁移性,通过替代模型融合的方式,训练融合替代模型生成对抗样本,将白盒条件下的ULTA扩展到了黑盒模型。并且与较为通用的黑盒攻击算法——边界决策攻击算法进行实验对比,验证了我们提出融合替代模型黑盒攻击算法在已知数据集的条件下有较好的攻击性能。4、针对黑盒攻击算法查询次数过多的瓶颈问题,探讨了在黑盒对抗攻击中如何减少对黑盒模型的查询次数,提高攻击的时间效率。提出了采用融合替代模型生成初始对抗样本,减少初始对抗样本需要查询次数的优化算法模型,并将其与其他常用黑盒攻击算法进行实验对比,验证了算法的有效性。
其他文献
轻量级分组密码作为现代密码学的重要部分,因其实现代价小、易于标准化、运行速度快、吞吐量大等特点,被广泛应用于物联网设备的安全机制中。故障分析作为分析轻量级分组密码的重要方法之一,攻击者通过激光、电磁场、时钟毛刺等方式向密码设备注入故障,获得错误输出,然后基于分析错误输出中包含的信息,即可用较低的代价破译密码算法。该攻击方式不仅容易实现,且攻击威力大,因此故障攻击可以有效检测物联网中密码算法的安全性
联邦学习作为一种具有保护训练数据隐私特点的分布式模型训练方法受到了广泛关注。然而,已有研究表明,由于本地模型更新中不可避免的包含了训练数据的信息,可被攻击者利用,以此来窥探本地训练数据特征。本地化差分隐私机制是一类广受关注的数据隐私保护方法。然而,本地化差分隐私机制如何高效应用于联邦学习、对数据添加满足本地化差分隐私的扰动会对联邦学习性能（收敛性及训练精度）带来何种影响、以及扰动后的联邦学习系统抵
食品快速检测工作越来越贴近广大老百姓的生活，这也是市场监管部门积极推进的一种食品安全监督管理的工作模式。在食品快速检测工作中，盲样制备作为前置环节，其盲样质量直接影响后续的检测结果。本文梳理分析了盲样制备工作中存在的一些问题，提出了改进措施与建议。
深度神经网络在从语言建模、计算机视觉到语音识别等广泛的应用领域取得了巨大的成功。然而,目前,仅凭良好的性能还不足以满足实际部署的需要,在涉及伦理和关键应用的情况下,需要可解释性。目前对于可解释性的研究无法满足需求,深度神经网络的复杂模型使其难以理解和推理预测,这阻碍了其进一步的发展。因此,提高模型的可解释性不仅具有学术意义,更具有现实价值。本文的研究思路是通过集成学习增强可解释系统。依据研究思路,
挥发性有机污染物（VOCs）种类繁多且时空变化迅速,这在生态环境和生命健康等领域中产生了严重的危害。因此,研究和开发快速、精确、高灵敏度的VOCs检测方法与技术具有极为重要的意义。在线检测中的光电离质谱具有谱图简单易解析、灵敏度高、检测速度快等优势,在复杂样品在线监测及快速分析检测中得到越来越多的应用。光电离质谱常用真空紫外氪气放电（VUV-Kr）灯作为光源,因其光通量和光子能量都相对较低,从而导
人工智能技术的高速发展,极大地改变了传统决策模式,数据中潜在的关联规则与因果关系,使得数据驱动的机器学习算法在军事、经济、工业等领域有广泛的应用。分类算法通过有监督的方式对离散型随机变量建模并预测,是当前机器学习中非常重要的研究领域,能有效解决实际生活的各种预测模型与评估分析的问题。传统的分类算法通常只对一个标签进行预测,然而在实际应用中各样本可能由多个标签标注,现实场景面临的复杂情况已经不能仅仅
自20世纪80年代以来,心率检测一直是生物医学实践的研究对象。记录心率的方法包括心电图分析、超声心动图检查等。这些监测方案准确可靠,但需要电极或心脏探头与人体之间的紧密接触,因此需要医疗专家进行专业的操作,这将给受试者带来不便并为受试者造成一定的心理压力。心冲击图（Ballistocardiogram,BCG）是记录每个心跳周期内,血液流动所产生身体运动的信号波形。基于BCG的心率检测方法不需要人
在大数据时代,信息产生的速度越来越快,各行各业所累积的数据量也越来越大。比如在淘宝和京东这样的电商场景中,无论是用户的数量还是商品的数量,都是以亿为计量单位的。因此,对于一个普通的用户而言,在不借助任何工具的情况下,想要从海量的商品池中快速地找到自己感兴趣的商品是一件极其困难的事情。在这种情况下,推荐系统的产生成为了一种必然,可以帮助用户从海量信息中迅速获取有效的信息。深度学习兴起之后,融合因子分
阿尔茨海默病（Alzheimers Disease,AD）是一种与年龄高度相关且患病过程不可逆的神经退行性疾病。在临床表现上,患者早期通常会出现日常记忆丧失、表达受阻以及行动受限等症状,随着病情的不断发展,患者会逐渐丧失个人的生活自理能力,给患者的家庭以及社会带来沉重的经济压力与看护负担。由于该疾病的特殊性与复杂性,医学上至今仍未找到具体的致病原因,以及有效治愈患者的方法,只能通过人为干扰或药物治