基于梯度优化的对抗样本生成方法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:wang525659571
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着深度学习模型被广泛应用于各个领域,其安全性也越来越受到重视。研究发现深度学习模型容易受到对抗样本的攻击,通过对干净输入样本添加人眼无法识别的微量扰动,即可使得深度学习模型输出错误的预测结果。而且,对抗样本还具有迁移能力,即针对当前模型生成的对抗样本也可以欺骗其他未知模型。这给深度学习模型带来严重的安全威胁。自从对抗样本被发现以来,研究主要聚焦在对抗样本的生成方法和防御方法两个方面。通过对对抗样本的研究,提高深度学习模型的鲁棒性,从而尽可能避免潜在的安全问题。本文主要研究对抗样本的生成方法,将对抗样本生成过程与神经网络训练过程进行类比,并借鉴神经网络训练的思想设计和改进对抗样本生成算法。分别从优化方法和模型增强两个角度,提出了两种对抗攻击方法,即Nesterov迭代快速梯度符号法(Nesterov Iterative Fast Gradient Sign Method,NI-FGSM)和放缩不变攻击方法(Scale-Invariant Method,SIM),以提高对抗样本的迁移能力。从优化的角度,提出结合Nesterov加速梯度法的对抗攻击方法(NI-FGSM)。受Nesterov加速梯度法可以加快收敛速度、跳出局部最优的启发,将Nesterov加速梯度法集成到对抗攻击中,从而加快对抗样本的生成速度并提高对抗样本的迁移性。从模型增强的角度,发现了深度神经网络具有放缩不变性,并据此提出基于放缩不变性的对抗攻击方法(SIM)。通过在迭代对抗攻击过程中,对输入图片进行不同的放缩,避免过拟合于被攻击的白盒模型,有效提高对抗样本的迁移性。另外,还将不同攻击方法进行融合,验证了不同攻击方法的融合,可以得到更强的对抗攻击方法。在代表性的深度学习模型和数据集上,对所提出的两种对抗样本生成方法进行了广泛的验证,并与已有的对抗样本生成方法进行了对比。结果表明,所提出的对抗样本生成方法能够加快对抗样本生成速度、提高对抗样本迁移能力,能够更好地评估模型的鲁棒性。
其他文献
超低相位噪声的微波源在铯喷泉钟、雷达等领域有着重要的应用。随着超稳激光和飞秒光梳的出现与发展,利用光生微波原理来降低微波源相位噪声的方法成为了一个研究热点。利用超稳激光通过飞秒光梳频率下转换生成的微波信号,简称光生微波源,拥有优越的相位噪声和短期频率稳定度性能,是目前低频段相位噪声指标最低的微波源。本论文从光生微波源的搭建入手,讲述了作者在研究生期间的主要工作,包括了光生微波源三个组成部分的搭建:
背景:灰色被盖(Indusium griseum,IG)是一层附着在胼胝体背侧的灰质,由外侧纵纹(Lateral longitudinal stria,LLS)和内侧纵纹(Medial longitudinal stria,MLS)构成,属于边缘系统的组成部分。大量的研究都认为IG与海马存在着紧密的联系,是海马在发育过程中形成的延伸部分;在细胞层面,IG区域细胞的形态和分层排布与齿状回(Denta
人脸关键点检测在许多人脸应用中扮演重要角色,比如人脸识别、人脸验证、人脸矫正和人脸编辑,因此人脸关键点检测具有重要的研究意义。随着深度学习研究的兴起,越来越多的学者也开始将深度学习方法用于关键点检测,并取得了超过传统方法的良好效果。然而,深度学习方法在模型大小上比传统方法大,效率上比传统方法也要差,因此人脸关键点检测仍然是具有挑战性的任务。PFLD,全称实用人脸检测器,存在对数据集的标注要求高、需
因传统化石能源的过度利用,能源和环境问题日益突出。一方面,木质纤维素类农林废弃物的资源化利用日益成为国家重要的环境与资源战略需求;另一方面,印染等工业废水造成的重金属污染日益对人类健康造成严重危害,其生物修复迫在眉睫。真菌、木质纤维素类物质在修复重金属污染方面具有良好的应用潜力;并且生物质基多孔碳材料在超级电容器电极材料方面受到广泛关注。因此,能否将利用生物质进行重金属修复以及对其绿色资源化利用结
研究背景:PAX5的功能缺失在PAX5突变肿瘤中起重要作用,并且PAX5单倍体缺失促进肿瘤发生与免疫逃逸有关。PAX5基因突变导致肿瘤免疫逃逸的具体机制现尚不明确。研究目的:利用生物信息学分析及建立PAX5单倍体突变的细胞及动物模型来研究PAX5突变导致肿瘤免疫逃逸的潜在机制。研究方法:我们首先运用CIBERSORT算法(通过估算细胞亚群的RNA转录本的相对表达量来鉴定细胞类型),基于PAX5突变
武汉三镇会馆作为城市发展的见证者与参与者,以独特的凝聚力促使了城市空间形态的演化,以丰富多元的文化内核构成了城市功能的重要补充。武汉三镇会馆作为城市建筑的重要组成部分,以璀璨的本土建筑意匠推动了城市传统建筑文化的源流碰撞,以新颖的外来建筑风格推动了城市近代建筑文化的破旧立新。毫无疑问,以保护与利用为核心的武汉三镇会馆建筑研究将成为武汉文化自信建设的重要一步。本文以五个部分逐层展开:第一部分,通过研
硒作为人体必需的一种微量元素,主要以硒代半胱氨酸的形式通过各种硒蛋白实现其生物学功能。硒蛋白F是已发现的25种哺乳动物硒蛋白之一。硒蛋白F通过与UDP-葡萄糖:糖蛋白葡萄糖基转移酶(UGGT)结合的形式实现在内质网中的驻留,并且与硒蛋白F结合后的UGGT酶活性显著增强。根据已有的研究结果,硒蛋白F以分子伴侣的形式参与了内质网中蛋白质折叠的质量控制过程,甚至可能有二硫键异构酶的功能,直接参与蛋白质折
研究目的与背景:表皮生长因子受体酪氨酸激酶抑制剂(EGFR-TKI)在晚期的非小细胞肺癌(NSCLC)治疗应用中效果显著,然而患者的中位无疾病进展生存时间(PFS)也仅为8-18个月,获得性耐药的出现是制约EGFR-TKI临床应用的最大瓶颈。因此,寻到到毒副反应小、耐受良好的药物或治疗手段来延缓、甚至改变获得性耐药进程至关重要。放射治疗是控制肺癌进展的重要手段,但临床上仍缺乏对EGFR-TKI联合
甲醇作为“碳中性”燃料是内燃机最具前景的石油替代能源之一。因其理化特性明显异于汽、柴油,其喷雾撞壁行为也与常规燃料不同。所以了解其喷雾撞壁特性及其对喷雾混合气形成过程的影响,可以为优化甲醇发动机的组织燃烧提供理论依据。论文通过定容燃烧弹内喷雾发展及撞壁实验,结果显示:环境压力越大,撞壁喷雾径向尺寸发展越缓慢;在一定的燃油温度范围内,燃油温度越高,壁面液膜的蒸发效应越强,撞壁喷雾在径向上发展得越缓慢
逆变器是多电力设备、新能源发电系统以及工业应用中的重要组成部分,其散热技术近年受到了越来越多关注。常见的散热方式包括自然散热,强迫风冷和水冷等。在一些环境恶劣、检修成本高、检修周期长的应用场合下,自然散热是增强逆变器可靠性的重要技术方案。本文以自然散热型三相逆变器作为研究对象,进行了系列相关设计与优化,主要内容包括:(1)功率器件的损耗分析:功率器件的损耗决定了逆变器的发热损耗,本文分析了三相逆变