【摘 要】
:
随着人工智能的蓬勃发展,深度神经网络在图像分类,自动驾驶,场景监控,医疗健康等领域都得到了广泛的应用。在深度神经网络取得巨大成功的同时,其安全性问题也越来越受人关注,当前大量研究表明神经网络易受对抗样本攻击,以图像识别为例,通过在原始图像上添加一些人眼不可识别的微小扰动就能让模型无法正确运作。在人工智能越来越频繁地运用在需要高安全性应用的时代,对抗样本的存在无疑会成为人工智能发展的一大阻碍,因此研
论文部分内容阅读
随着人工智能的蓬勃发展,深度神经网络在图像分类,自动驾驶,场景监控,医疗健康等领域都得到了广泛的应用。在深度神经网络取得巨大成功的同时,其安全性问题也越来越受人关注,当前大量研究表明神经网络易受对抗样本攻击,以图像识别为例,通过在原始图像上添加一些人眼不可识别的微小扰动就能让模型无法正确运作。在人工智能越来越频繁地运用在需要高安全性应用的时代,对抗样本的存在无疑会成为人工智能发展的一大阻碍,因此研究对抗样本对推进人工智能的发展有着非凡的意义。根据对目标模型内部信息的了解情况,可将对抗样本攻击分为白盒和黑盒攻击,白盒攻击由于充分了解模型的结构、训练数据集、内部参数等信息可以很容易地生成对抗样本,而黑盒攻击仅能获取模型的最终决策结果,相较于白盒,攻击难度较大,但是更符合实际攻击场景,更具有威胁性。黑盒攻击是本文的主要关注对象。当前黑盒攻击往往需要过多访问目标模型,过多的访问次数,不仅增大了被发现的几率,同时在一些需要付费才能访问的应用上也增加了攻击成本,因此黑盒攻击的一大关注点是如何快速攻击。针对快速有效地生成对抗样本的问题,本文基于爬山算法的局部贪心思想提出了一种对抗样本生成框架,然后在该框架的基础上通过引入自编码器等改进策略,提出了一种基于有效扰动的对抗样本生成算法EDGM,该算法基于启发式思想,充分利用自编码器能生成更具有原始数据特征扰动的优点,能快速地生成对抗样本。此外黑盒攻击生成的对抗样本视觉效果往往较差。针对生成具有更好视觉效果对抗样本的问题,本文在黑盒攻击方法BANA的基础上,提出使用EDGM算法来改善初始种群的质量,根据卷积神经网络工作模式使用区域交叉操作,以及结合对抗样本生成特点使用更具有导向性的变异操作,经过这些改动之后改进后的算法在一定访问次数下能生成具有更好视觉效果的对抗样本。本文针对黑盒攻击的不同攻击需求,提出了两种对抗样本生成方法,两种方法均能在常见的卷积神经网络上实现有效的攻击,即使是对于有防御方法加强的模型,两种方法均有一定的攻击性,同时本文还与Auto-ZOOM和Hop Skip Jump算法进行了对比实验,实验结果表明,本文提出的方法具有一定的优势。
其他文献
如今,机器学习已经成功地应用于信息检索、数据挖掘以及计算机语音识别等多个领域。但是,由于其功能和工作机制上的复杂性,实际应用与学习中大多数用户将机器学习模型视为黑匣子,且高性能模型的开发需要耗时的、反复的试验过程。所以,对机器学习的可解释性进行研究探索是一个很重要的命题。学术研究人员需要更加透明和可解释的系统,以更好地理解和分析机器学习模型。可视化分析是将数据转换成富有信息的视图的新兴技术,它利用
如今,卷积神经网络已成为深度学习中的主流模型之一,它在计算机视觉、自然语言处理等任务中具有显著的性能表现。卷积神经网络具有平移等变性,即对输入的平移等效于对输出的平移。然而,对于其他非平移变换,如旋转、放缩,卷积神经网络并不具有等变性。为了解决上述问题,群等变性卷积神经网络由此提出。此外,为了处理非欧几里得空间(如球面)中的图像数据,人们提出了适用于球面流形的球面等变性卷积神经网络。然而,现有的等
自动驾驶可以有效缓解交通安全事故,提高交通运输效率,极大的改善现有交通环境。同时自动驾驶的落地也是国家新基建的重要组成部分,因此相关技术的发展有着重要的现实意义。目前自动驾驶方案大致分为两种,基于规则的方案需要人工设计环境感知算法,并结合高清地图完成车辆定位、路径规划、决策控制等一系列算法完成。整个系统设计复杂、成本高昂,由于各场景之前还存在边界模糊,所以整个系统并不是完全可观。基于端到端的自动驾
呼吸音在肺部疾病的预防和诊断中起着至关重要的作用。针对呼吸音进行听诊是筛查和诊断肺部疾病的主要方式之一。然而传统的听诊需要专业的医生来进行,在医疗资源日益紧缺的社会中,更加需要一种自动诊断系统来帮助人们缓解医疗资源不足的压力。深度神经网络在解决这类问题上具有很大的潜力,然而,训练一个有效果的深度神经网络需要大量的数据作为基础,最大的呼吸数据集ICBHI只有900多条呼吸音音频,这对于训练一个深度神
在经济科技越来越发达的今天,各个国家之间联系变的更加的紧密,海洋运输是国际间进行交流的主要方式之一。伴随着航运业的发展,海上交通事故时有发生。因此,对于船舶航行轨迹的研究变的愈发重要,通过轨迹研究,可以对船舶所处的航线进行分析,对船舶的航行状态、目的地等进行监控,及时的发现船舶出现的异常轨迹,保障海上交通的安全。本文基于自动识别系统(Automatic Identification System,
近年来基于卷积神经网络的机器学习技术在社会生产发展与人们日常生活得到了越来越广泛的应用,在图像分类、目标检测、语音识别、自然语言处理等任务上发展尤为突出。不幸的是,神经网络对很容易受到对抗样本的攻击。对抗样本是一种通过在干净的原始数据上添加专门设计的的微小噪声,使神经网络模型做出错误判断的人造样本。对抗样本的存在对人工智能安全造成了极大的威胁。神经网络模型技术在安全敏感领域(如自动驾驶)的落地无法
在当代,医学成像主要依赖高科技成像设备,医生主要通过医学图像,对病人进行疾病的诊断。因此对医学图像进行超分辨率重建,提升医学图像的分辨率具有重要的现实意义。本文聚焦于医学图像领域,应用深度学习的技术,对医学CT图像进行超分辨率重建,旨在提高CT医疗图像的重建像素质量,辅助医生进行病变目标的检测,减少漏诊和误诊的概率。医学影像受困于成像原理,成像设备,以及病人安全等硬件条件的限制,图像分辨率往往不如
随着移动互联网的快速发展,导航系统被广泛地应用于日常生活之中。现有的导航应用程序大部分提供的是逐步导航技术,其主要来自基础道路的网络拓扑信息,因此逐步导航被认为是将物理世界中的度量简化为简单口语描述的工具(例如距离、时间、转向等信息)。这种导航描述方式忽略了人们对地理空间的固有认知,对于那些了解城市布局的司机来说,往往是冗长和复杂的。这样不仅使得驾驶员对导航描述更为模糊,还占用了大量的终端资源。而
图像语义分割作为计算机视觉领域的一个像素粒度核心研究问题,其目标是为输入图像的每一个像素预测一个预先定义的语义类别。图像语义分割作为当前诸多领域的关注重点,对医疗诊断、机器人感知、自动驾驶、视频监控、增强现实等真实应用领域的发展可以提供强有力的支持。当前的图像语义分割模型要想获得足够的分割精度需要大量带像素级标注的样本进行模型的训练。然而由于像素级标注的获取需要耗费大量的人力成本,这导致所需样本不
图像分类识别已经成为了人工智能领域一个重要的组成部分,是人们当下研究的热点话题。卷积神经网络是图像分类识别中的一项关键技术,被大规模应用于GPU、CPU等多种不同平台上。为了满足不同的部署需求,尤其是在嵌入式移动端中,需要综合考虑功耗体积等因素,CPU或GPU便无法胜任这样的工作。而FPGA凭借着高性能、低功耗的特点,成为了卷积神经网络硬件加速的一个重要选择。本文基于FPGA实现了一个卷积神经网络