【摘 要】
:
随着深度学习在人工智能中的广泛应用,其自身的安全性问题也逐渐暴露。深度学习的安全性直接影响着其在不同领域应用的有效性,因此其安全问题已经成为学术研究的焦点,特别是在对抗样本攻击与对抗样本的生成方面。有效的攻击算法可以对深度学习模型的安全性进行评估,对于网络安全保护具有重要的研究意义和社会价值。本文针对现有的对抗样本攻击存在普适性不强,生成对抗样本时需要大量访问被攻击网络、查询次数多、攻击点较难选择
论文部分内容阅读
随着深度学习在人工智能中的广泛应用,其自身的安全性问题也逐渐暴露。深度学习的安全性直接影响着其在不同领域应用的有效性,因此其安全问题已经成为学术研究的焦点,特别是在对抗样本攻击与对抗样本的生成方面。有效的攻击算法可以对深度学习模型的安全性进行评估,对于网络安全保护具有重要的研究意义和社会价值。本文针对现有的对抗样本攻击存在普适性不强,生成对抗样本时需要大量访问被攻击网络、查询次数多、攻击点较难选择、攻击成本高等问题,对面向深度学习的对抗样本攻击算法进行研究。具体工作内容如下:(1)提出一种基于DE-C&W的通用对抗样本生成算法。该算法首先使用差分进化(Differential Evolution,DE)算法对原始样本进行预处理,找到容易被攻击的敏感点,在敏感点上加入随机扰动后得到对抗样本,并将对抗样本作为初始输入样本;然后基于初始输入样本构建C&W攻击(Carlini and Wagner Attack)算法的目标函数和损失函数;最后结合Adam(Adaptive Moment Estimation)优化算法对损失函数进行优化,进而求得目标函数的最优解,即最优扰动向量。实验结果表明,该算法不仅能够保证生成的对抗样本在进行对抗攻击时具有更高的成功率,而且具有更高的可迁移性,同时减少了平均查询次数,降低了攻击成本。(2)提出一种基于改进差分进化的自适应黑盒攻击算法。该算法根据产生差分向量的两个个体来自适应调整缩放因子,并且利用适应度函数自适应地控制交叉概率因子的变化,提高全局寻优能力和加快收敛速率。通过引入兼顾全局搜索和局部开发能力的新变异策略来提高搜索有效攻击点的精准度,从而提高黑盒攻击的效果和效率。对比实验结果表明,在保证攻击所需平均时间和平均查询次数不受影响的条件下,黑盒攻击成功率得到有效提高。
其他文献
电机作为最常见的旋转机械设备,在现代电力系统中占据着重要的地位。受制于恶劣的工作环境,电机极易发生故障,这会对整个系统的稳定性提出挑战。而滚动轴承故障作为电机故障失效的重要原因之一,对其开展故障诊断研究,对维护电机设备的健康运转、保障系统平稳运行、提升经济效益都有着重大的现实意义。本文以电机滚动轴承为研究对象,利用优化后的变分模态分解方法(Variational Mode Decompositio
随着高品位、易开采的硫化镍矿资源日益枯竭,红土镍矿逐渐成为镍冶炼的主要原料。在印度尼西亚,火法处理工艺面临着能耗高、环境污染严重等诸多问题。鉴于经济与环境的双重压力,采用HPAL湿法冶金技术从红土镍矿中提取镍制备电池级硫酸镍成为一种趋势,其中杂质的高效脱除与低浓度镍的富集是制备电池级硫酸的关键。针对这些问题,本文提出基于萃取手段实现杂质的脱除与镍的富集,采用萃取剂Cyanex 272分离钴、镁和镍
泰山赤鳞鱼作为名贵保护淡水鱼种,具有极高的医用和营养价值,但在自然环境下生长缓慢,并且对生存环境有一定要求。投喂是赤鳞鱼规模化养殖的必要环节,利用机器视觉分析和对比投喂前后的行为信息,为养殖智能化投喂策略制订提供参考,本文作出主要研究内容及结论如下:(1)提出基于卷积神经网络YOLOv5的赤鳞鱼目标检测方法,首先通过采集赤鳞鱼图像样本并进行数据增强,共获取2000幅样本,进行赤鳞鱼框标定并完成数据
随着智能化、信息化的普及,图像作为最直观反映实时信息的媒介,在我们的生活中扮演着越来越重要的角色,但由于实际场景中频繁发生的大雾天气,严重影响了智能设备采集图像的清晰度,从而阻碍后续高级视觉任务的有效进行。因此,人们开始不断致力于研究图像去雾技术来改善模糊图像质量。本文基于卷积神经网络结构,针对国内外现有图像去雾方法存在对模糊图像纹理细节还原精度不足,网络信息过载,以及单图像去雾效率偏低、缺少对真
信道特性的差异是无线通信与有线通信最核心的差异之一,无线信道为电磁波的传输提供了直接的载体和介质,它的特性直接影响整个无线通信系统的性能。因此,认识、理解、利用无线信道,是设计研发新一代无线通信系统的基础。由于实际无线信道非常敏感、无法控制和不可重复,在真实环境下对研发的无线通信基站、终端以及对应的无线通信算法直接进行测试和验证,不是一种有效的方法,需要研发无线信道模拟器来满足系统性能的全面考核。
水稻(Oryza sativa)是人类赖以生存的粮食作物,保护其免受病虫害侵袭并实现保质稳产极其重要。植物内生菌,尤其是内生放线菌,因具有高产多种代谢产物、抑制病原微生物生长、协助宿主抗逆抗病等特性,成为生物防治手段中备受关注的微生物资源。但目前关于内生菌与病原菌、内生菌与宿主之间的分子互作机制还知之甚少,需要进行更为完整的解析。本论文以课题组前期分离得到的一株具有显著抗稻瘟病效果的水稻内生吸水链
行人检测与重识别工作是计算机视觉领域的研究热点,旨在研究不重叠的多个摄像区域间对于行人的检测以及对特定行人的匹配,多应用于智能城市建设以保障出行安全。但复杂环境下获取的数据往往存在姿势问题、遮挡问题、照明问题、视角问题、背景问题、分辨率问题以及其他开放性问题,本文将针对以上挑战和难点开展研究工作,以促进行人检测与重识别技术在智能城市中的广泛应用,为“平安城市”的建设工作助力。本文基于深度学习技术,
对抗攻击是指将精心设计的噪声叠加到一个被正确分类的干净样本上,使神经网络做出错误分类。基于硬标签的对抗攻击方法通过向目标神经网络发送查询,仅利用硬标签信息,便可以生成对抗样本,实现攻击目标。由于现实世界中,攻击者并不知道神经网络输出的概率分布,往往只能得到硬标签,所以评估神经网络对基于硬标签的黑盒攻击下的鲁棒性更加符合实际。基于硬标签的黑盒对抗攻击方法主要分为两大研究方向:(1)对处于决策边界的对
含铬废水治理是水体修复的研究重点之一。近年来,微生物法因简单有效、低成本、绿色化等优势倍受关注。已有研究表明重金属污染环境中的微生物受重金属胁迫上调表达重金属抗性基因(MRGs)的同时间接上调表达了抗生素抗性基因(ARGs),使微生物同时具备重金属抗性和抗生素抗性。含铬废水微生物治理过程是主动将铬还原菌暴露在重金属铬环境下对Cr(VI)进行还原,该过程可能上调表达ARGs。抗生素抗性一旦产生,其A