【摘 要】
:
随着深度学习的发展及其在实际应用中的普及,关于神经网络鲁棒性的研究成为学术热点,尤其是针对神经网络的攻击和防御受到了越来越多的关注。攻击者可以根据神经网络的可微性
论文部分内容阅读
随着深度学习的发展及其在实际应用中的普及,关于神经网络鲁棒性的研究成为学术热点,尤其是针对神经网络的攻击和防御受到了越来越多的关注。攻击者可以根据神经网络的可微性,在原始样本上增加一个微小的扰动来构成对神经网络的攻击,使得模型对该样本分类错误。同时,防御者通过隐藏模型的真实梯度,使得神经网络能够对这类攻击进行防御并大幅增加模型的鲁棒性。本文从攻击和防御两方面展开神经网络鲁棒性研究,取得了如下进展:在攻击领域,根据攻击者所拥有关于模型信息的类型,攻击方法可以被划分为白盒攻击和黑盒攻击两类。在白盒攻击中,攻击者可以获得原始模型的结构或梯度等信息,而在黑盒攻击中,攻击者通常只能通过查询来获得样本的标记,本文着重研究更贴近实际攻击模式的黑盒攻击场景。黑盒攻击的常用方法是利用从目标深度神经网络中查询的样本和标记信息来训练替代模型,并使用现有的白盒攻击方法来攻击替代模型,进而使用生成的对抗样本来攻击目标网络。然而攻击者通常需要大量查询才能收集足够的数据来训练准确的替代模型,因此这种方法的查询效率非常低。针对该问题,本文使用主动学习策略对算法生成的大量待查询样本进行筛选,显著减少了所需的查询数量。同时,为了减少采样带来的偏差,本文进一步提出了一种多样性准则,避免出现冗余样本。实验结果表明,本文提出的算法可以在减少90%以上查询次数的同时保证攻击的成功率,并获得与目标模型相似度超过85%的替代模型。在防御领域,大量基于混淆梯度性质的防御方法都被攻破,而基于对抗训练的方法也无法有效地缓解决策边界扭曲的现象。针对该问题,本文基于距离度量学习技术,提出三元组损失对抗训练框架(AT~2L)来提高神经网络的鲁棒性。具体而言,三元组损失作为一种被广泛应用的度量学习技术,能够有效地度量不同类别的样本之间的距离并平滑模型的分类超平面。本文将三元组损失引入对抗训练的框架中,并将三元组损失中锚点替换为当前模型的对抗样本,以获得更加平滑的分类边界。此外,本文进一步提出了AT~2L的集成版本,能够综合不同的攻击方法和迁移自不同模型结构的对抗样本,取得更好的防御效果。实验结果表明,在MNIST数据集上,本文所提出的方法可以在不牺牲准确率的情况下保证85%以上的防御成功率。同时,本文提出的三元组损失也可以被当做正则化项加入到损失函数中来进一步增强其他防御方法的效果。
其他文献
上市公司披露的业绩归因信息是在对外报告中以文字的形式对业绩变动原因所做的说明,利用语言信息对财务数据进行解释和延伸,是企业对外报告的重要组成部分。然而,我国目前出台的政策仅对上市公司需披露业绩归因作出了要求,并没有制定规范和监管业绩归因的相关政策,业绩归因信息成为监管和审计的盲点。由于业绩归因信息可传导至市场反应,管理层为了获取公司股东和投资者的信心、维持公司股价等目的在业绩归因时很可能会出现自利
本课对象广大党员、干部和群众。本课时间3小时(讲课2小时,讨论1小时)。本课目的广大党员、干部和群众通过本课的学习,充分认识伟大抗战精神产生的时代背景和丰富内涵,以及新
病毒性感染引起的传染病引起了世界各国对公共卫生的高度重视.然而在现实世界中,种群所在的环境变化多端,不可避免地被环境噪声干扰,环境噪声会不同程度地影响到系统的许多参
进入21世纪以来,我国的社会经济发展取得了令人瞩目的成效,城镇化进程不断加快,人们在追求经济效益的同时往往忽略甚至损害自然生态环境。土地作为一种不可再生的稀缺资源,是人类赖以生存和发展的物质基础。一方面,我国是一个人口基数庞大的国家,人地矛盾突出是当前社会发展面临的主要问题,如何提高土地集约利用程度,缓解用地压力是当今学者研究的热点问题。另一方面,随着全社会的发展进步资源开采、能源消耗、环境污染等
大规模干旱会极大地改变森林的组成和结构,森林状况的变化会影响一个地区的经济和生态特征,总体影响取决于干旱的强度和持续时间。之所以选择德克萨斯东部进行这项研究,是因为在过去的20年中,该州发生了三次重大干旱事件,分别是1999-2000年、2005-2006年和2010-2012年的历史性干旱。德克萨斯州是美国本土最大的洲,其经济及生态功能的重要性不言而喻,所以对德州东部森林这一区域的干旱发展、特征
餐饮是人类生存最基本的需求。随着社会经济的不断向前发展,餐饮行业也在快速迭代,同时,餐饮行业的竞争也越来越激烈。融入了“互联网+”概念的餐饮消费方式也在不断的创新,餐饮个性化的体验式消费也日益得到人们的喜爱,而基于“互联网+”概念的餐饮O2O商业模式,也在这个背景下受到越来越多的餐饮企业青睐。然而,这种新型的商业模式在传统的餐饮行业应用过程中,存在较多的疑点与盲区,大部分的餐饮企业还在摸着石头过河
《中共中央关于制定国民经济和社会发展第十四个五年规划和二〇三五年远景目标的建议》明确提出到2035年,广泛形成绿色生产生活方式,碳排放达峰后稳中有降,生态环境根本好转,
在十八届中央纪委三次全会上,习近平总书记围绕"严明党的组织纪律、增强组织纪律性",进行了深刻阐述,提出了明确要求,进一步表明了党中央从严治党、正风肃纪的坚决态度和坚定
目的:研究消栓饮穴位贴敷对预防脊柱全麻手术后患者下肢深静脉血栓形成的临床疗效,为临床上更好地预防下肢深静脉血栓形成提供新思路、新方法。方法:选取2019年5月至2020年2月在湖南长沙某三甲医院脊柱外科住院的脊柱全麻手术患者75例为研究对象,根据随机数字表法将患者分成观察组和对照组,其中观察组37例、对照组38例。术后两组患者均行脊柱外科常规治疗与常规护理,在此基础上,观察组予消栓饮穴位贴敷,对照
租和购是人民群众住房消费的两种基本方式,直接关系人民群众美好生活,是民生保障的大事、要事。相比住房购售市场,住房租赁市场长期处于自由发展状态,有关政策法规体系不是很