面向深度神经网络的对抗鲁棒架构搜索

来源 :浙江科技学院 | 被引量 : 0次 | 上传用户:pbsiszx1234567
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据时代下,深度学习在各行各业均表现出卓越的性能,其安全性也引发了广泛关注。对抗样本的发现严重限制了深度学习模型在安全敏感场景下的应用,这极大阻碍了深度学习的发展。对于对抗样本的防御,目前主流的方法更关注优化模型的训练权重,而忽略了深度学习模型本身的网络架构对鲁棒性的重要影响。很少有工作专注于从深度神经网络的架构方面提高其鲁棒性。本文的工作主要集中关注于深度神经网络的架构鲁棒性,基于网络架构搜索技术自动化地设计鲁棒架构。根据干净样本和对抗样本在网络中间的特征差异提出了网络鲁棒性指标用于指导搜索。通过在搜索过程中对网络鲁棒性进行约束来搜索鲁棒的架构。将搜索问题表述为一个多目标优化问题,并提出一种投影算法进行求解。实验表明,所提方法在多个公共数据集上取得了最先进的对抗鲁棒性能表现。针对所提搜索算法细粒度不足,无法进一步搜索更鲁棒的架构的问题。本文提出了一种细粒度鲁棒网络架构搜索算法,将搜索空间从层扩展到通道,以便在更细的粒度上发现更多可能的鲁棒架构。为了提高搜索效率,将搜索空间松弛为连续的,以方便用梯度信息进行优化。与最先进的架构相比,所提算法在各种对抗攻击下实现了最佳的鲁棒性。并且,获得架构的参数量和计算量大大减小。网络架构与鲁棒性存在密切的关系,在防御研究中是不可忽略的。对网络架构鲁棒性的研究可以提高网络的安全性以满足其在安全要求高的场景下的应用,同时可以促进对抗样本和深度学习理论解释研究的发展,让深度学习更好的造福人类。
其他文献
随着科学技术的发展,工业自动化程度不断提高,桁架机器人在机床上下料领域得到了快速的发展。将视觉应用于工件定位,有效提高了桁架机器人的柔性和自动化程度。针对机器视觉技术应用于机床自动上料时存在的对工件定位精度不足、通用性差等问题,提出了一种基于2D视觉的工件定位算法,本文的主要研究内容如下:(1)提出了一种Eye_in_Another_Hand型相机放置方式,将相机安装于一独立运动模组,配合料盘使工
学位
近年来,微分方程分支理论已广泛应用于各个领域,尤其是生物数学领域.本文选择两类带有同类自食的捕食-食饵模型作为研究对象,研究内容主要如下:第一章主要阐述了本文研究的背景、意义以及国内外研究现状.第二章简单介绍了动力系统与分支理论的相关理论知识.第三章对一类已知的带有捕食者同类自食的连续捕食-食饵模型简化其参数,并使用半离散化法得到该系统的离散版本,随后研究该离散系统不动点的存在性与稳定性,使用中心
学位
细粒度图像分类是计算机视觉领域中一个非常热门且具有挑战性的研究课题,在工业界与学术界都有着广泛的研究需求与应用场景。在实际生活中,识别不同的子类别存在着巨大的应用需求,如:智能零售场景下的商品识别、公共安防场景下的车辆识别、危险品检测和识别、生物多样性监测等,特别是在智能新经济和工业互联网的产业应用中展现出巨大应用价值。但目前细粒度图像分类任务的主要挑战是类间差异小和类内差异大的固有属性,具体包含
学位
茶农劳作之余吟唱的采茶歌应是采茶戏的源头,从采茶歌到采茶戏,其形成演变进程大致经历了三个阶段:一是从唐到元代,采茶歌的曲调久经传唱,深受民众喜爱,成为影响深远的民间小调;二是明代,采茶歌以坐唱、载歌载舞的群体表演、祭祀歌舞的表演形式,成为娱人娱神的重要方式;三是清代,采茶歌经由元宵灯节“扮唱采茶”的巡游表演形式,最终演变成采茶戏。
期刊
近年来我国工业的进步,带动了工业机械臂的迅速发展,为了满足各种复杂且特殊的需求,人们对于机械臂的性能要求也大大增加了。轨迹规划是机械臂运动控制系统中重要组成部分,一个合理的运动轨迹规划方案能够大大提高机械臂的工作效率和运动系统的稳定性。冗余机械臂的重复运动规划主要是调整机械臂各个关节在运动过程中发生的角度偏差,使得冗余机械臂在完成一个运动周期后,各个关节都回到初始位置。但是传统的重复运动方案,无法
学位
雾的形成是常见的自然现象,作为凝结的水汽,雾气在特定场景下具有构造景观、滋润作物的优良作用。然而在视觉领域,雾气的存在往往容易对观察者造成困扰。如在交通领域,雾气的产生改变了空气中光线的传播介质,使得大气能见度降低,干扰了机动车驾驶、飞机航行等正常的交通运作,带来严重的安全隐患;在视频监测领域,雾气的遮挡导致监测设备在浓雾环境中难以有效工作,使监测设备灵敏度降低。去雾理论与去雾算法的发展是众多常见
学位
股价走势会被诸如宏观经济政策、公司经营状况、投资者情绪这些因素共同作用,呈现出非线性、非平稳性、低信噪比与长记忆性等特点,是一个极为复杂的动力学系统。有研究发现股价走能够预,精准预测可以支撑投资决策,对冲股市风险。股票预测方法可分为计量经济学法与软计算法。计量经济学模型包括AR、MA、ARMA与ARIMA等,基于软计算的模型则从过去的传统神经网络逐渐演化为深度学习方法。已有深度学习研究还有少许缺陷
学位
近年来,随着经济与科技的快速发展,影像技术以前所未有的力度影响着我们的日常生活,图像的成像技术逐渐成为研究热点。超分辨率重建算法就是在软件层面上来提高图像的质量,是一个经典的计算机视觉任务。生成对抗网络的研究促进了超分辨率技术的发展,基于生成对抗网络的超分辨率算法解决了传统算法重建图像纹理平滑、感知效果差的问题,但是由于生成对抗网络训练不稳定、生成网络学习能力差的问题,导致重建图像还存在着纹理缺失
学位
由于二氧化碳的大量排放,导致生态环境急剧恶化,因此很多国家开始建立碳交易市场以促进碳减排工作的进行。当前国内碳交易已从试点拓展到全国统一市场,这意味着我国碳市场的发展将面临着更大的挑战和困难。进一步完善碳交易机制并丰富碳交易产品,将提升我国在碳交易市场的地位,而合理的碳金融衍生品定价是推出相关金融产品的基础。目前我国碳现货市场已趋于成熟,所以本文以碳期权作为研究对象,致力于助力国内碳市场的完善。由
学位
移动机器人作为信息时代的高智能化产物受到了研究人员的极大关注,随着人工智能技术和各种硬件设备的进步和发展,移动机器人所具备的功能已经不在简单化和单一化,而是更加多样化和智能化,并且移动机器人在各个领域得到了广泛地应用。近年来我国的农业结构正在朝着数字化方向转变,植物工厂是一种搭载信息技术来培育农业作物的数字化产业基地,而智能化的移动机器人将在植物工厂中对农作物的生长发育监测发挥出巨大作用。为了实现
学位