【摘 要】
:
随着人工智能的发展以及日益增长的生产生活需求,基于深度学习技术的深度神经网络模型受到更加广泛的关注。在图像识别、智能语音系统、自动驾驶及智能家居等许多和人们生活密切相关的应用中,神经网络模型成为解决许多具有挑战性任务的首选工具。为了更好地将其应用于实际场景中,针对人工智能的鲁棒性问题研究尤为重要。对抗攻击是衡量神经网络模型鲁棒性的重要手段,具有充足理论基础和广阔的适用范围。黑盒对抗攻击在白盒对抗攻
论文部分内容阅读
随着人工智能的发展以及日益增长的生产生活需求,基于深度学习技术的深度神经网络模型受到更加广泛的关注。在图像识别、智能语音系统、自动驾驶及智能家居等许多和人们生活密切相关的应用中,神经网络模型成为解决许多具有挑战性任务的首选工具。为了更好地将其应用于实际场景中,针对人工智能的鲁棒性问题研究尤为重要。对抗攻击是衡量神经网络模型鲁棒性的重要手段,具有充足理论基础和广阔的适用范围。黑盒对抗攻击在白盒对抗攻击的基础上隐藏了部分学习网络系统的信息情况,有助于进一步挖掘网络模型底层逻辑和潜在特征,提高现实网络的鲁棒性,更加具有现实部署的意义。当下,针对黑盒对抗攻击的研究主要集中在基于分数机制的攻击方式,即:已知神经网络模型的置信度分数输出信息来对模型进行攻击。目前,这种攻击通常依赖于替代模型或梯度估计方法来生成对抗样本。这意味着想要生成更加逼真,模型难以察觉的恶意样本,不可避免地需要大量地对目标模型进行不断查询来优化生成的扰动。在本文中,针对过多查询次数影响在实际场景中黑盒攻击效果的问题,提出了基于贝叶斯优化的黑盒迁移攻击方法(Bayesian Optimization Adversarial Attack With Transfer Priors,BO-ATP),一种结合了迁移攻击和贝叶斯优化策略的无梯度基于分数机制的攻击方法。在本文的方法中,使用预训练的生成器来学习可迁移扰动作为起点。在这个基础上,在生成器的低维潜在空间中利用贝叶斯优化的方法进行迭代搜索以找到最优扰动噪声,生成符合攻击要求的对抗样本。该方法与依赖于局部梯度估计的基于梯度的方法不同,在搜索过程中,攻击充分利用从前一个查询中获得的先验信息来采样下一个最佳扰动点,而不是仅仅随机采样多个点来估计梯度大小。通过在三个标准数据集——MNIST、CIFAR-10和Image Net上评估l∞范数约束下无目标和有目标的基于分数机制的黑盒攻击来证明所提出攻击方法的有效性。结果表明,本文所提出的攻击可以大大提高黑盒攻击的查询效率。与当前先进的基于分数机制的黑盒对抗攻击相比,所提出的攻击方法的查询效率要高出5-10倍,更接近于实际神经网络模型攻击的应用。
其他文献
高超声速是相对于声速定义的,一般以5倍声速为界限,飞行速度大于5 Mach的导弹、弹头、作战机等都可以被称作高超声速目标。伴随着更加现代化的军事储备要求,高超声速军事武器蕴含着极大的潜能,是军事和航空、航天等领域的热点研究问题。当目标以高超声速飞行时,目标外围包覆的等离子体鞘套会对目标与导航系统的通信产生影响;高超声速目标因包覆等离子体鞘套也对目标的探测带来了新的挑战。本文基于不同结构的三维钝锥模
模数转换器作为连接模拟世界和数字世界的关键媒介,随着通信技术的发展,其应用场景的种类不断扩大,市场缺口与日俱增。在5G通信领域,对ADC性能的要求不断提高,亟待新结构的出现。噪声整形逐次逼近-流水线混合型模数转换器(Pipelined-NS-SAR ADC)是一种结合噪声整形SAR ADC与流水线架构的混合型ADC结构,能够同时实现低功耗、高精度和高速的目标,已经成为高性能ADC结构的热点研究方向
随着集成电路产业的发展,多样的电子设备融入日常生活,电源因其电子产品核心供电模块的身份而得到重视,并随着市场需求向小巧便携、绿色节能等方向发展。反激式AC/DC变换器因其成本低、隔离性能优异等优势广泛应用于低功率环境。为进一步提高电源效率和输出精度、降低轻载功耗、实现高频化和小型化,本文设计了一款应用于设备充电器的反激式AC/DC控制芯片。本文设计的恒流恒压模式控制的反激式AC/DC控制芯片采用副
随着5G时代的来临,电子设备已经走进了千家万户,人们正逐步迈入万物互联的社会。集成电路行业的快速发展,电子产品市场需求的急剧增加,模数转换器已经从开始时的只应用于高精尖设备到现在的千家万户,其技术也在飞速进步。而由于其重要且无可替代的作用,模数转换器受到了越来越多人的关注,经过研究人员的不懈努力,刻苦钻研,模数转换器已经深入到各行各业,千家万户,其中也包括超声技术。超声技术虽然是近几年发展起来的新
由于对能源需求的增加和对自然环境的污染影响以及化石燃料资源利用的减少,发展更有效的能量转换和储存设备是新能源技术基础研究和应用研究中的重点挑战所在。二次电池作为一种能量转换和贮存的重要设备,在世界经济社会可持续发展的过程中发挥了很大的作用,目前,它正向着更高的比能量、更安全、对自然环境更友善的新产品的方向发展。其中锂离子电池具备能量密度高、循环寿命长、自放电弱等优点,在缓解能源危机与污染问题等方面
近年来,具有螺旋形相位结构、携带轨道角动量、呈现出手性特征的涡旋结构光场由于其独特的物理性质和新颖的物理效应及其极具潜力的应用前景受到越来越广泛的关注。另一方面,手性物质在自然界中广泛存在,对于手性物质的研究在生命科学、药物开发、精细化工和超常材料等领域有广泛的应用。本文将涡旋结构光场引入手性物质的研究中,通过研究两者之间相互作用的能量、动量、自旋/轨道角动量和局域手性等,获取手性物质更为丰富的信
在高超声速飞行器飞行过程中,头部周围空气被剧烈压缩,动能转换为内能导致绕流场温度急剧升高。在高温下空气中的原子分子会发生复杂的化学反应,伴随着这些化学反应辐射出的强烈紫外光谱对于天基地基的紫外探测与拦截预警有重要的研究意义。影响紫外辐射计算结果的因素除了飞行器模型自身外还包括流场的热力学模型和化学反应模型。同时热防护材料在飞行过程中不断剥离与高温空气发生复杂的化学反应生成大量新的紫外辐射分子,大大
随着激光器及光电探测技术的发展,蓝绿激光海洋科学探测及应用技术受到极大重视和发展,蓝绿激光水下目标探测研究具有重要学术意义和应用价值。目前该研究相关理论模型还比较简单,比如将海水视为均匀介质、目标表面视为理想朗伯面等,针对自然环境下海面波动起伏、海水垂直非均匀分布和目标表面随机粗糙的激光跨介质传输和探测的仿真有待深入研究。本文采用蒙特卡罗方法结合实际海洋环境和目标特性模型,开展蓝绿激光跨介质传输和
海洋资源是关系人类发展的重要资源,由于在日常通信中广泛使用的光波和电磁波的衰减率在海洋中很高,在海洋远距离通信、导航和探测中并不适用,唯有声波在海洋介质中衰减较弱,是进行水下探测最为有效的载体,因此,水声技术在军事以及民用方面的应用日益广泛。在实际应用中,海面混响会干扰主动声呐,其存在制约了声呐探测的有效范围,使其探测精度降低,虚警、漏警的概率提高。粗糙海面对声波的散射、风致气泡层与声波的相互作用
瞬时、能量强的电磁脉冲会对电力运行、微波通信以及仪器设备使用造成极大的影响,因此对此类电磁脉冲的准确测量就显得尤为重要。集成光波导脉冲电场传感器以其体积小、集成度高以及带宽宽等优点,被广泛应用于电磁脉冲的测量。本论文以大线性动态范围、瞬态脉冲电场传感技术为研究对象,提出了一种以铌酸锂(Li Nb O3,LN)电光调制为基础的非对称马赫曾德尔干涉仪(Mach-Zender Interferomete