【摘 要】
：
如今,越来越多的应用和系统都由神经网络（深度学习）所驱动,影响着或者将影响人类日常生活中的许多方面,比如推荐系统、人机交互甚至是安全防护等领域,具体场景包括信用账户评估、垃圾邮件过滤、车牌识别等等。但是神经网络本身也有缺陷,即便是基于深度神经网络的图像分类器也容易受到微小的、难以察觉扰动的影响。恶意生成的对抗样本,虽然不会对人类肉眼的识别过程造成较大的影响,但它却会利用神经网络的不稳定性,误导模型
论文部分内容阅读
如今,越来越多的应用和系统都由神经网络（深度学习）所驱动,影响着或者将影响人类日常生活中的许多方面,比如推荐系统、人机交互甚至是安全防护等领域,具体场景包括信用账户评估、垃圾邮件过滤、车牌识别等等。但是神经网络本身也有缺陷,即便是基于深度神经网络的图像分类器也容易受到微小的、难以察觉扰动的影响。恶意生成的对抗样本,虽然不会对人类肉眼的识别过程造成较大的影响,但它却会利用神经网络的不稳定性,误导模型得出错误的结果,从而影响模型的准确性。本工作以物体分类任务为例,提出了两个算法,第一个是基于进化算法的对抗攻击算法,第二个是基于噪声压缩的对抗攻击算法。前者同时考虑了源/目标靶向攻击与非靶向攻击、黑盒攻击和全局扰动这三大任务,通过使用改进的差分进化算法和粒子群优化算法来搜索对抗样本,将随机噪声编码为种群个体,通过交叉变异等操作逐步进化至对抗噪声,并利用对抗初始化的方式提升搜索效率。实验表明,该算法在MNIST、CIFAR10、CIFAR100数据集上均有效果,使不同模型的错分率显著提高,同时其生成的对抗样本的可迁移能力也较强,即便对于经过对抗性训练等模型防御措施也具有很高的稳健性。后者的噪声压缩算法利用对抗扰动的鲁棒性和迭代攻击的边际效应递减现象进一步采用分组降噪和随机降噪两个方法进行噪声的压缩操作,并采用改进的迭代攻击算法与噪声压缩算法相结合,提升靶向攻击的性能。在Image Net和Tiny Image Net数据集的实验验证了该算法的有效性。
其他文献
软件安全知识包括异质软件安全概念（例如,软件缺陷和攻击模式）和软件安全实例（例如,某个特定软件产品的安全漏洞）,它们都可以被视为软件安全实体。软件安全实体间具有许多类型内以及跨类型关系。软件安全实体间的关系推理有助于丰富现有的软件安全知识,并对紧急出现的软件安全实体作出解释。然而遗憾的是,软件安全实体目前被记录在不同数据库的超文档中,这种超文档的表示方式不支持软件实体间关系的有效推理。此外,现有的
随着信息技术的发展,真实数据往往具有多视角的特性,即同一对象数据由多个模态或多个数据源构成。例如,对同一物体可以由其图片展示其特征,也可由语言描述其属性信息;一张自然图像可从颜色、形状、纹理等不同角度分别提取信息,由其共同表示。由于机器学习任务很大程度上依赖于数据的特征表示,而表示学习方法可以减少人工设计的难度和随意性,自动地从数据中学习出高效的表征。无论是监督还是无监督的任务,借助多视角数据丰富
本体公理学习,是本体工程中重要的任务,主要是从知识图谱中构建逻辑包含关系。近来,如何利用表示学习来从大规模知识图谱中学习本体包含公理是一个很大的挑战。一方面是知识图谱的规模越来越大,传统的本体公理构建方法无法应对如此大的规模;另一方面现有的知识图谱表示学习无法刻画谓词间的逻辑关系。因此研究能够表示谓词间逻辑包含关系的表示学习模型是此问题的关键。本文尝试学习保留谓词包含关系的表示和线性规划来解决这一
当深海环境涉及到一定深度时,常常会因充满未知和危险等恐怖因素而引起人们的恐惧情绪,对于患有深海恐惧症的人来说更是如此。而当今时代,随着海洋领域的发展出现了越来越多需要进入深海开展的工作。许多深海工作者必须经常潜入深海中直面恐惧并进行与认知有关的作业,而关于深海恐惧对认知的影响却不甚清晰。本研究探讨了沉浸式虚拟现实诱发的深海恐惧情绪对工作记忆（一种容量有限的认知系统）的影响。要求参与者在通过虚拟现实
随着人工智能的发展,以人为中心的面部表情识别已逐渐受到业界和学术界的普遍关注。面部表情动作单元（Facial Action Units,AUs）是面部表情的重要客观描述,并且AU的检测与分析对于理解和描述人脸表情有着重要的意义。然而,由于AU标注的复杂性以及现有的AU表情数据集的相对较小等问题,如何对现有的AU数据集的扩充,以解决AU数据集标签不均衡问题,已经成为本领域亟需解决的一个问题。本文旨在
作为一种流行的人体生物识别技术,步态身份识别因其在安防监控和人机交互等领域中广阔的应用前景和经济价值,引起了研究人员的广泛关注。现有的步态身份识别技术大多依赖于专用的设备,由于受设备自身条件和使用环境的限制,无法全面满足不同应用场景的识别需求。利用Wi-Fi信号进行人体行为感知具有成本低、非入侵、普适性好等优势,可以用来弥补专用设备的不足。本文研究基于Wi-Fi信道状态信息（Channel Sta
计算机视觉作为目前深度学习应用最为热门的研究方向之一,主要包含图像分类,目标检测,语义分割等子问题。近年来,由于卷积神经网络的发展,图像分析相关模型的性能得到了突飞猛进的提升。同时由于网络结构的不断进化,模型所需要的计算开销也呈现爆炸式增长。在保证模型性能的基础上降低模型所需参数、提高模型运行速度具有重要的研究意义和应用价值。蒸馏学习是近年来提出的模型轻量化方法,该方法通常将庞大臃肿的模型中的知识
在解决复杂的大规模图处理任务时,需要频繁交替使用图查询与图分析,然而目前在理论上图查询与图分析尚未统一,造成查询与分析结果的可靠性无法保证,进而导致查询与分析的优化方法有限。所以如何统一图查询与图分析,设计包含图查询与图分析的统一理论框架对于高效解决大规模图处理任务十分重要。本文基于SPARQL图查询语言,建立统一的图查询与图分析理论基础,包括其语法及语义,并研究讨论其基础理论性质,即表达性与复杂
随着科技发展,诸如全球定位系统之类的位置获取设备的部署迅速增长,目前已经产生了庞大的轨迹数据,其中包含许多有价值的信息,并且已经被用于许多实际应用中,比如城市计算和智能交通系统。对这些轨迹数据的分析处理成为关键,本文提出了一种基于轨迹分段的新颖轨迹总结方法。它是一种综合了轨迹异常检测、轨迹聚类和轨迹分段的多角度分析方式。本文的基于分段的轨迹总结框架包括五个阶段。首先,执行基于搜索窗和相对距离比的异
车载自组织网络（VANETs）是移动自组织网络中的一种,它支持车对车（V2V）和车对基础设施（V2I）通信。自组织性、分布式网络和高度动态的拓扑是VANETs的三个重要特征。VANETs的特点及其在道路安全中的应用引起了工业界和学术界的浓厚兴趣,它在改善交通管理系统,控制交通流量以及改善用户驾驶体验方面有着重要研究意义。然而在这些应用部署前必须先解决网络中信息安全和用户隐私保护问题。聚合签名认证协