基于CPU--FPGA的容错神经网络模型训练系统

来源 :合肥工业大学 | 被引量 : 0次 | 上传用户:yin329060357
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
Google、ARM和NVidia等巨头相继推出IoT方面的硬件和框架,深度学习加速器与IoT的应用结合将成为世界技术革新的新助力。然而,物端系统的实际工作环境往往极为严苛,与产品设计预期差距巨大,原本训练好的模型在实际工作环境中,可能会产生精度降低甚至失效。因此,基于CPU和FPGA的硬件平台提出一种神经网络模型再训练的方法,其中在FPGA上实现前向传播算法,在CPU上实现反向传播算法,两者联合起来共同完成CNN的训练。通过再训练,工作环境偏差等动态特性能够被CNN模型学习,从而提升神经网络模型在实际工作环境中的精度。最后,还在近似计算和软错误的场景下应用了该方法。实验表明,相比于离线训练的模型,该方法使神经网络的top5和topl精度分别平均提高5.7%和8.6%。
  此外,为了进一步提高CNN加速器的性能,对CNN加速器应用超频技术。然而,超频状态下,CNN加速器的关键路径会发生时序违规,从而导致预测精度降低,甚至造成CNN加速器崩溃。通过插入额外的参考图片来确定由于超频导致的精度损失,然后将其划分为微小精度损失、中等精度损失、严重精度损失和加速器崩溃四个状态。微小的精度损失对应用没有影响,CNN加速器可以正常使用;对于中等的精度损失,使用提出的再训练方法来改善精度;对于严重的精度损失和加速器崩溃状态,提出检查点策略进行恢复,检查点策略的基本思想是降低CNN加速器的频率来重复执行图片的分类任务。结果表明,在保证精度损失低于2%时,该优化方法仍然可以使CNN加速器的性能提升20%,能耗降低30%。
其他文献
随着英语新课改的不断深入,新时代英语教师也越来越注重对学生英语综合能力的培养。高考英语试卷中新增的读后续写题就是对学生英语综合能力的考查。读后续写不仅考查学生的阅读能力,而且考查学生的写作能力。文章将从以下三方面介紹怎样引导学生进行读后续写,以期抛砖引玉。  一、选择合适的阅读材料,激发学生的续写兴趣  顾名思义,读后续写是以“阅读”为基础进行写作训练。在译林版高中英语教材中,许多阅读篇目都具有文
期刊
提问作为高中英语阅读教学的重要环节,是实现师生互动、了解学生对所学内容的掌握情况的必要手段。在阅读教学过程中,教师应当对提问进行精心的设计,结合教材内容和学生的认知特点以及具体的教学过程,对学生进行有针对性的提问。文章将结合教学经验,从三个方面探讨如何在高中英语阅读教学中进行提问,从而真正构建高效课堂。  一、针对不同层次的学生进行分层提问  高中阶段学生的英语水平是参差不齐的,有的学生英语基础比
期刊
主谓一致,即谓语动词的单复数形式与主语在人称与数上保持一致,是高中英语中的一个重要语法知识点。对此,笔者就主谓一致的用法進行了归纳,以期同学们能够准确掌握和运用。  一、谓语动词用单数形式  1.当 each, the other, another, something, nothing, anything, everyone, anybody等复合不定代词用作主语时,谓语动词应用单数形式。如:E
期刊
读后续写是指在对文章进行深入理解的基础上,开展延续性写作的方式,对学生的英语综合能力提出了更高的要求。而新课标也明确提出读后续写在提高学生阅读能力和书面表达能力方面具有重要意义。文章将结合教学实例,从以下三方面探讨读后续写的具体运用。  一、精选阅读材料,奠定续写基础  读后续写,顾名思义是在阅读后开展写作,也就是说阅读是写作的前提。由此可见,一篇优质的、科学合理的阅读材料能够让学生的读后续写更有
期刊
《函數》专题训练
期刊
数目观念是在人们长期实践的基础上逐渐形成的.最初形成的无疑应是基数而不是序数.  原始社会的人对数目的认识,从“一”和“多”开始,后来才逐渐对“二”“三”有了认识,但只是作为一些物体的个数而反映在人的头脑中.因此,最初的数目都和具体对象联系在一起,如一只羊、两根木棒等.在通常情况下,人们可以通过手指、石子等简单的方式“数”出物体的个数.  数目观念的发展经过了一个漫长的过程,由一、二等到十几、几十
期刊
《巴黎圣母院》是法国19世纪前期积极浪漫主义文学的代表作家维克多·雨果创作的长篇小说,于1831年1月14日首次出版。  这是一部有关人的命运、历史的命运、法国的命运的小说。作品记叙了一个发生在法国的故事:巴黎圣母院的副主教克洛德道貌岸然、蛇蝎心肠,迫害吉ト赛女郎爱斯梅拉达,而面目丑陋、心地善良的敲钟人卡西莫多为救爱斯梅拉达献出了自己宝贵的生命。小说揭露了宗教的虚伪,歌颂了下层劳动人民的善良、友爱
期刊
“思维品質是英语学科核心素养的重要组成部分。”英语阅读材料有丰富的教育文化内涵和语言赏读价值,在学生的思维品质培养上有无可替代的优势。培养学生的思维品质是英语阅读教学的重要任务。笔者通过逐层设问的方式在英语阅读教学中尝试培养学生的思维品质。笔者以模块3 Unit 2 Moth- er of Ten Thousand Babies为例,来谈如何在英语阅读教学中激发学生的逻辑思维、评判思维、创新思维,
期刊
“普通高中英语课程标准(2017年版)”规定的总目标是全面贯彻党的教育方针,培育和践行社会主义核心价值观,落实立德树人根本任务,在义务教育的基础上,进一步促进学生英语学科核心素养的发展,培养具有中国情怀、国际视野和跨文化沟通能力的社会主义建设者和接班人。”  英语学科的核心素养主要包括语言能力、文化意识、思维品质和学习能力。笔者在这篇文章中重点谈论文化意识的培养。笔者以2019年暑期档两部电影《哪
期刊
Having an interesting job in your forties may slash your risk of getting dementia in old age, a study has suggested.  一项研究显示,四十多岁时从事有趣的工作可以大大降低老年患痴呆症的风险。  Researchers claim mental stimulation may stav
期刊