基于数据相似性的无监督对抗样本生成技术研究

来源 :国防科技大学 | 被引量 : 0次 | 上传用户:LIU73558109
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习算法是机器学习、数据挖掘、自然语言处理等领域内的重要研究内容,近年来由于硬件运算能力的显著增强,被广泛用于各类人工智能应用,涉及到银行、交通、医疗、安防等众多关键领域。然而研究发现,深度学习算法存在安全隐患,其鲁棒性受到对抗样本的威胁,甚至细微改动的样本,即可成功欺骗基于深度学习算法(模型)的应用,因此对抗性机器学习领域的研究愈发受到关注。在该领域中,通过研究对抗样本的生成方法,有助于从样本产生机制出发,寻找目标算法(模型)的脆弱点,进而对其脆弱性进行有效评估,为应对威胁并提升算法(模型)的安全性或鲁棒性提供新的思路和方向。目前在众多对抗样本生成方法中,基于有监督或半监督方式的方法得到了充分的发展,而基于无监督方式的方法仍有待探索。无监督方式无需数据标签信息,更接近于实际情况,所产生的样本依然能够对目标造成威胁,值得深入研究。另外,由于深度学习算法可能面临不同的输入数据类型,使得对抗样本生成方法的设计需针对变化进行研究,如图片数据的相似性度量方法难以直接用于图结构数据的相似性度量。为应对上述问题,本文从数据的相似性角度出发,分别针对以图片数据和以图结构数据为载体的深度学习算法(模型),进行了无监督方式下的对抗样本生成技术研究,主要工作贡献可归纳为三个方面:(1)提出了一个有效的基于无监督的对抗样本生成框架方法(UAEG),用于深度学习的脆弱性评估。该框架方法同时从两个方面进行考虑:一方面最大化正常样本与对抗样本对应的特征表达分布之间的散度(特征表达由深度学习模型生成),另一方面在原始空间中最小化正常样本与对抗样本之间的差异程度,最终实现一个有效的无监督对抗样本生成框架方法。基于该框架生成的对抗样本能够在伪装自身的同时误导下游任务。(2)提出了一个基于UAEG框架方法的无监督图片对抗样本生成方法(UAEG-Image)。该方法以图片数据为载体,采用了一种新颖的数据分布差异度量方式,能够恰到好处地与框架进行融合,从而保证了无监督的属性。同时该方法采用了以欧几里得范数为基础的作用于图片数据上的差异性度量方式,从而能够对所生成的对抗样本进行伪装以逃避检测。实验证明,UAEG-Image方法能够产生有效的对抗样本,能够对基于深度学习的图片分类模型的脆弱性进行有效评估,同时证明了UAEG框架方法的可行性和可扩展性。(3)提出了一个无监督图对抗样本生成方法(UAEG-RWEG)。该方法以图结构数据为载体,针对基于随机游走的图嵌入算法,从UAEG框架方法的设计思路出发,提出了限制对抗样本与原始图数据差异程度(相似性)要求,在此条件下进一步提出了两种构造图对抗样本的具体策略。实验证明,该方法在相似度限制条件下配合所提出的策略,能够产生有效且更优质的图对抗样本,降低了目标图嵌入算法的嵌入质量,有效地评估了算法的脆弱性,为提升算法鲁棒性和开展有效的防御机制研究提供了指导方向。
其他文献
在教育科研国际化的背景下,在国际顶级期刊发表高水平学术论文已成为科研人员推动科学前沿发展、参与科学知识建构的重要途径,也是评价大学或科研机构科研实力与国际声誉的重要指标。提高中国学者的英语研究论文写作水平已成为各高校的重要目标。然而,大多数中国学者撰写和发表英文研究论文的能力还比较低,这主要体现在他们在用英语表达复杂的观点时,无法澄清自己的观点和说服读者。近年来,有越来越多的证据表明,单纯的语言基
学位
谐波减速器的性能状态直接决定了高精机械臂的稳定性和可靠性,进而影响产品的精度和品质。为保证设备持续高效运作,了解谐波减速器的健康状态至关重要。由于谐波减速器置于机械臂关节内,安装精度要求高,不便定期停机拆卸检查,对部件损伤状态的感知具有滞后性。因此,需要寻找一种能够克服传统方法探伤困难、灵敏度低、整体性差的缺点的检测方式。声发射检测是不受缺陷的形状、材料和位置限制,对结构内的微小损伤和动态损伤十分
学位
随着CPU的算力以及硬件性能的高速发展,车辆中连接的电子控制单元设备及其网络带宽需求也与日俱增。在选择车载总线的过程中,由于子控制系统硬件接口的差异,导致硬件厂商会采用多种类型总线混合使用的方案,提高了制造成本,降低了子系统的互换性,不利于系统的故障维护等。针对上述相关问题,开展对SAE-J1939、CANopen等标准协议栈的研究。以国产SOC芯片为基础,依据SAE-J1939及CANopen等
学位
在华南地区,极端持续性强降水是致洪暴雨的主要成因,与短时强降水相比,具有更长的持续时间,也更容易造成洪涝等自然灾害,然而目前针对极端持续性强降水的特征和形成机制还缺乏深入的研究。论文利用2008-2019年4-9月华南地区的逐时融合降水网格数据,对极端持续性强降水进行定义,同时分析了极端持续性强降水的发展演变过程、时空分布特征和典型天气形势,探究了边界层非地转风辐合对极端持续性强降水的影响,最后对
学位
智能型自主无人机武器系统是对抗无人机集群攻击的强力武器,无人机平台以实现单个无人机或无人机群体对敌态势最优为目标,以实时运动决策和敌方目标的分配为关键技术。基于多智能体系统的建模与仿真是检验无人机集群系统结构和集群战术的有效手段。以马尔科夫决策过程模型为基础的强化学习,能够解决无人机在不同态势下的序贯决策问题,有助于提升无人机自主能力。论文围绕无人机集群间对抗主题,做以下研究工作:(1)采用多智能
学位
随着环境压力日益增大,人们的环保观念逐渐增强,对室内空气质量的关注日益增多。甲醛作为一种常见的挥发性有机空气污染物,受到了越来越多的关注。各种吸附材料被用于甲醛的去除,比如多孔碳材料、有机金属骨架、碳酸钙以及金属颗粒等。其中,多孔碳材料最为常用。活性炭纤维作为新型的吸附材料,相较于粉状活性炭和颗粒状活性炭,比表面积更大,微孔更加发达,因此,其吸附速率更快。但是,活性炭纤维表面官能团较少,在吸附过程
学位
经典计算机的运行依赖于基本运算单元比特在0、1态之间的切换,而遵循量子力学原理的基本粒子则能构成同时处于0态和1态任意叠加态的量子比特(qubit),基于qubit特殊性质所构建的量子计算机在求解特定问题上相较经典计算机具备指数级加速的计算能力[1]。过去二十余年,物理学家们在各种不同的物理系统中实现了对其量子态可控的制备、操作和读取[2],奠定了量子计算的物理实现基础。其中超导量子系统因良好的可
学位
当前无人机缺乏管控,在民用与军用领域造成极大安全隐患,因此研究无人机的防御具有重要意义。由于无人机的多样化,单一反无人机的手段无法有效压制无人机。所以,采用复合部署的反无人机智能决策系统是当前反无人机研究的主要课题。本文的主要工作如下所示:1.提出了一个基于PSO(Partical Swarm Optimization)的反无人机装备复合部署模型。分析了反无人机装备系统复合部署和影响反无人机装备部
学位
嘻哈风格服饰具有反常规、新潮时尚、张扬个性的服装特点,受到了小众群体的青睐,继而风靡世界各地。随着主流时尚与嘻哈风格服饰的融合,很多奢侈品牌以及流行品牌相继地推出嘻哈风格服饰,这不仅拓宽了现代服装设计思路,还推动了服装产业的更新。目前关于嘻哈风格男装的研究文献较少,并且市场中的嘻哈风格男装以宽松型为主,但款式设计上趋于审美单一和同质化,不足以满足追求新潮个性的嘻哈风格男性服饰的要求。嘻哈风格男装发
学位
目前,光学聚焦主要通过多个几何透镜的组合实现。但是,在镜头的轻薄化与动态聚焦所需的较大物理移动空间之间存在矛盾。为了解决该问题,一种拥有独特电磁响应的亚波长复合材料(超材料)被广泛用于光束的波前调制,由此设计了多种超表面透镜。然而,大多数此类超透镜的功能在结构确定后无法动态调整。作为典型的二维材料,石墨烯在性能可调谐的超表面器件领域具有极大的应用潜力。本文以基于石墨烯的超表面透镜为主要研究对象,聚
学位