软硬件协同的异构神经网络加速器研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:wangxiaofengkobe
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着脑神经科学的研究不断深入,以神经网络为代表的深度学习应用在学术界、工业界获得了广泛的关注。神经网络总的来说包含两类,即人工神经网络和脉冲神经网络。人工神经网络以其强大计算力在识别能力上见长。而脉冲神经网络则在认知能力、决策能力方面见长。两类神经网络中都包含大量并行性操作,而传统的通用处理平台难以充分捕获其中的并行性。因此,这几年神经网络加速硬件呈爆发式发展。目前,主流的神经网络加速器普遍存在两方面问题:1.仅支持特定类型的神经网络,缺乏对两类神经网络的共同支撑。然而在现实情况中,以脉冲神经网络进行决策来降低计算功耗,以人工神经网络执行特定任务来提升准确度是较为完美的搭配。异构神经网络加速器一方面能够满足真实的场景需求,另一方面能够促进两类神经网络交叉领域研究。2.过多关注所能实现的功能完备性,在软件层面对神经网络的优化较少。而针对算法的优化能够以微小代价换取大幅计算量的降低,这显然更有利于硬件加速器性能的提升。为解决上述问题,本文采用软硬件协同的方式,探讨研究了异构神经网络加速器的设计方案。本文的主要贡献点如下:1.在软件层次对人工神经网络和脉冲神经网络进行统一抽象,阐明了高效实现异构神经网络的最小硬件集合。2.针对脉冲神经网络提出一种近似计算方法,三组实验证明该近似计算方法可以保证在模型精度轻微损失的情况下,大幅降低脉冲神经网络的计算量。3.设计了一款异构神经网络加速器核,该加速器核可以同时实现对两类神经网络以及脉冲神经网络近似计算过程的支持。同时给出了一种将加速器核拓展为多核的设计方案。4.基于ZCU 102 FPGA平台实例化了一款异构神经网络加速器GNU,并在其上运行了 3种网络应用。结果显示相较于以往的一些加速器工作,GNU在相同的任务中可以实现更高的吞吐率。
其他文献
软体机器人是由硅胶等低杨氏模量材料为主体构成的机器人,由于其具有安全性、柔顺性、灵活性等优点,它们有希望应用于医疗健康、家庭服务等应用领域。然而由于其结构复杂、材料非线性等原因,软体机器人的控制目前仍然是一个挑战。强化学习等机器学习方法在软体机器人的控制上展现了巨大的潜力。然而,由于强化学习的样本效率较差,它们通常需要大量训练数据,而直接在真实软体机器人上采集大量训练数据需要耗费大量时间。本工作提
学位
单原子催化剂(SAC)由于具有较高的原子利用率和特殊的催化活性,在工业催化领域具有广泛的应用前景,当前对SAC的研究方兴未艾。目前已有合成SAC的策略主要有两种:一是在载体上嫁接锚基锚定金属单原子,二是金属单原子直接附着在金属或金属氧化物等载体表面上。本论文分别选取涉及两类SAC合成策略的若干代表性催化体系:ⅰ)表面嫁接型:活性碳(AC)以及改性AC负载Au催化乙炔氢氯化反应;ⅱ)直接附着型:Pt
学位
纳米颗粒催化剂的性能除了金属颗粒的尺寸、晶面效应密切相关以外,载体和表面配体也起着举足轻重的作用。载体可以利用表面缺陷锚定金属,使其在苛刻条件下保持高度的金属分散性,还可通过金属-载体相互作用调变锚定的金属纳米颗粒的结构和电子性质。此外,金属表面附着的有机配体对催化性能也有着重要影响。近年来,合成化学的迅猛发展使有效调控金属-载体/配体界面的产生成为可能,结合先进的表征手段和精准的理论计算,可帮我
学位
随着互联网的发展,社交媒体已经成为一个大型的信息传播平台,而在各种信息传播的过程中,网络谣言也悄然诞生并广泛传播。由于网络谣言给社会和人们的生活带来了许多不良影响,它已成为话语分析领域重要的研究话题之一。针对网络谣言的治理,目前大多学者从法律制度制定、各部门联合整治、网民素质提升的角度展开相关研究。然而,对于辟谣话语的建构尚需进一步探讨。鉴于此,本文尝试以Fairclough的三维分析模型为研究框
学位
好家风是良好社会风气形成的重要支撑,长效机制的科学构建,有助于深化好家风对社会风气发展的影响力。本文简要分析了好家风的基本原则,深入阐述好家风与良好社会风气的相关性,归纳长效机制构建思路,经由丰富家风传承活动、加强好家风建设引导、更新家风内涵、融合净化社会风气等路径,有效改良社会风气,推进新时代社会文明建设。
期刊
爱国行为是爱国主义的外在表现和最高形式。随着互联网的发展,现实的爱国行为在网络空间中延伸与发展,不仅体现着爱国主义的本质特征,还彰显出鲜明的时代特征。作为网络技术发展的产物,网络空间爱国行为更具复杂性,当网络爱国事件发生时,往往容易发生非理性爱国行为,不利于维护国家利益与国家形象以及网络爱国主义教育的深化发展,因此网络空间非理性爱国行为问题的相关考察具有重要现实意义。在明晰网络空间非理性爱国行为的
学位
作为自然语言处理(Natural Language Processing,NLP)中的一个基本问题,文本分类是根据文本内容将给定文档分配到一个或多个类别的任务。根据每个文档对应类别标签的数量,文本分类可以分为单标签文本分类和多标签文本分类。在实际任务中,许多文档都可以归类到多个类别,而这些类别之间也存在着一些联系,可以组织成树或有向无环图。将多个层次结构的类别分配给文档的任务称为层级性多标签文本分
学位
全面推进乡村振兴战略离不开有效的乡村治理,基层协商治理作为一种民主的治理方式,是我国社会主义协商民主理论与马克思主义群众观在乡村的具体实践。在当前的乡村治理环境当中,基层协商治理依靠党和政府所给定的制度框架,凭借多元主体参与,理性协商,相互制衡与共识达成的独特治理形式,在创新治理方式和转变治理理念、激活村民自治等方面发挥了不可替代的作用,是基层治理体系的重要组成部分。在乡村振兴战略背景下,厘清乡村
学位
大脑皮质发育过程中神经细胞的增殖和迁移等重要生理活动需要所有基因在特定的时间、空间精准表达,蛋白的功能受到精密调控。蛋白质功能在不同层面的异常变化均会导致不同程度的相关疾病。转录因子ARX(Aristaless-related homeoboxprotein)蛋白质在大脑皮质的发育过程中起着重要作用,其转录活性受其所在环境而改变,然而不同转录活性之间的转换的机理尚不清楚。本研究鉴定到了 ARX上的
学位
自旋交叉配位聚合物是分子基磁性材料,在分子开关和信息存储等方面有着潜在的作用。这些年对自旋交叉配位聚合物的研究越来越多,主要研究其磁性与结构的关系,包括配体修饰、客体分子改变以及压力、光等对磁性的影响,对磁行为的调控越来越趋于精准。本文主要研究了 Hofmann结构类型的自旋交叉配位聚合物,对其结构和磁行为的关系进行了深入讨论,并且通过溶剂分子、配体修饰以及压力效应等对其磁行为进行了调控。此外,还
学位