深度神经网络硬件故障模拟与脆弱点分析

来源 :浙江大学 | 被引量 : 0次 | 上传用户:kcl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度神经网络(Deep Neural Network,DNN)如今在各种计算平台上受到了广泛应用,忽视或者低估深度神经网络计算平台所可能遭受的硬件风险有可能会给使用者带来巨大的危害。目前,DNN硬件平台上所面临的被动威胁(比如制造工艺上的缺陷,永久性故障以及软错误等)已经受到了学术界与工业界全面的研究。然而,DNN的硬件加速技术使其在能够为边缘设备提供实时的决策与推断的同时也引入了新的安全隐患。即使是以同样的训练数据训练出来的同种架构的神经网络,也存在着专用硬件和软件实现在数据量化、模型压缩、并行性和内存访问方面的差异。这就给予攻击者们新的途径来对DNN的硬件开展攻击,比如将瞬态故障注入到神经网络的计算节点当中,或者将持久故障注入到内存中存储的模型参数中。这些故障注入攻击都可以通过基于时钟或者电源等不依靠网络输入的方法来实现。因此,这些基于硬件的攻击使得当前的基于一些简单如比特翻转的故障模型的脆弱性评估工作显得不够充分与全面。论文研究了目前深度神经网络硬件计算平台上存在的故障攻击,介绍了一种针对硬件故障所开展的软件模拟的新思路,提出了对部署在通用人工智能(Artificial Intelligence,AI)加速器上的神经网络进行脆弱性评估的新型方法。由于目前的通用故障脆弱性评估框架对于具有较高复杂性的新型故障不具备很好的适配性,本文提出了基于硬件特征信息提取的神经网络加速器故障脆弱性评估方法。首先,对运行在硬件加速器上的神经网络进行硬件信息特征提取,该信息特征包括神经网络在正常运行情况下的特征与其在遭受故障攻击时的信息特征;其次,利用提取到的信息特征对故障攻击建模,通过故障分布模拟、故障概率模拟等方法预测故障对实际的神经网络硬件加速器产生的影响。而在脆弱性评估中,论文通过建立的故障模型,利用网格搜索的方法来判断神经网络在面临故障攻击时存在的脆弱性。在论文的具体实现方案中,以Xilinx的Ultra96 FPGA开发板作为硬件平台,搭建了硬件故障注入平台。在软件方面,选用caffe作为深度学习框架,搭建了软件故障模拟平台。选用了时钟毛刺(Clock Glitch)故障这一复杂性较高的特殊故障与位翻转(Bit-Flip)和固定型(Stuck-at)故障这两种通用型故障作为故障研究目标,同时选择两种主流的分类神经网络:VGG16以及Res Net50作为故障注入对象。通过论文的研究与实验结果表明,本文提出的故障模拟框架能够成功克服复杂故障所带来的模拟难度,同时对通用的故障模型(如位翻转故障与固定型故障)能够保持相当高的精度。与同类型的脆弱性评估框架相比,本文首次提出了时钟毛刺故障的软件模拟方法。通过对VGG16以及Res Net50进行的脆弱性评估,成功发现了一些网络结构中潜藏的脆弱性,比如Res Net50中的卷积旁路在面对某些故障时较为脆弱,这些发现有助于研究者们更好地维护神经网络系统的硬件安全性。
其他文献
报纸
名著阅读可以塑造一个人的价值观,影响一个民族的文化积累。随着新课改的深入和部编版初中语文教材的投入使用,名著导读教学也越来越受到人们的重视,在语文教学中占有十分重要的位置。然而,在实际教学中,名著导读教学仍存在学生兴趣低、教师教学能力欠缺等许多问题。钱梦龙先生根据自己的经验,形成了对语文教育界有着深刻影响的“三主三式”导读法,意在引导学生自主学习、主动思考,切实提高阅读能力。“三主”是理论指导,即
学位
随着5G高速通信和物联网时代并肩到来,智慧生活的快速发展驱动了无线无源传感技术的日益进步。我国综合实力的腾飞和人民逐渐现代化的幸福生活都离不开先进制造业,而目前仍存在一些重大难题和关键技术急需得到解决和完善。许多制造业涉及温度高于1000℃的操作环境,如熔炼坩埚、高温辊和燃气轮机等,这些高温环境制造环节往往又是产品制造的最关键环节,所以对高温制造过程中的温度、应力、压力、振动等参数实施在线连续监控
学位
本文通过分析少年儿童产生心理障碍方面的原因,从四个方面阐述了少儿图书馆如何发挥社会职能作用,承担相应的责任和义务,为少年儿童提供心理健康服务。
会议
报纸
针对当前智慧管廊监控的现状及存在的问题,本文设计了一种基于边缘计算架构的智慧管廊监控系统,重点介绍了系统的架构设计及施工流程。实验结果表明,该系统能有效消除传统管廊的安全隐患,提升管廊的运作效率。
期刊
<正>培养健康心理的最佳时期为少儿时期,这一时期是各种行为习惯奠定基础的阶段。培养孩子身心健康的全面发展,就应从少儿时期注重体育教育。人们长期认为体育教育的功能是增强学生体质、增进健康,但不知体育教育在对学生心理健康培养方面能起到特殊的作用。体育教育对学
期刊
报纸
vSLAM(visual Simultaneous Localization and Mapping,视觉同步定位与建图)技术被广泛应用在机器人、无人机、混合现实等领域。该技术对实时性要求较高,且常被部署于嵌入式设备。然而由于功耗、资源等因素限制,嵌入式系统的性能往往不足以支持实时的vSLAM应用。为了提高嵌入式vSLAM系统的实时性,现有研究开始使用硬件加速器来加速vSLAM中的部分计算过程。特
学位
在当前新课程背景下,初中数学教师在教学活动中需要采取更加科学有效的教学举措、教学方法,找到新课程视域下的数学教学核心问题,结合更加科学有效的教学方法,帮助学生在学习探索环节实现学科情感、素质、能力、思维的高效发展。本文对新课程标准下初中数学教学存在的问题进行简要分析,并且提出在当前新课标视域下提高数学教学效率的关键举措。
会议