高能效脉冲神经网络加速器关键模块的设计

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:ABC20090907
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年来,人工神经网络(Artificial Neural Network,ANN)已经广泛应用于图像识别、语音识别等人工智能应用中。但是随着ANN计算复杂度的提升,传统的人工智能处理器能耗也越来越大。相比ANN,受生物大脑启发的脉冲神经网络(Spike Neural Network,SNN)更接近生物大脑的信息处理机制,神经元只有在接收到输入脉冲时才会进行计算,当达到阈值才会产生输出,这种稀疏特性使得基于SNN的加速器有望替代传统的ANN处理器从而实现更高的能效比。然而,现有的SNN加速器设计在计算机制、硬件利用、数据传输机制等方面仍存在一些问题,导致其性能、能耗和硬件效率有限。基于上述原因,本文提出了一种适用于嵌入式视觉智能设备中的SNN加速器架构,以高能效、低成本为主要目标,分别对SNN加速器内的关键模块:神经元、神经核、片上网络(Network on Chip,No C)三个方面进行设计优化及功能验证。为了提高能效比和减少硬件开销,提出了多种优化技术,包括采用事件驱动的泄漏积分点火(Leaky Integrate-and-Fire,LIF)神经元模型、时分复用的神经核架构、流水化状态更新、简化的地址事件表达(Address Event Representation,AER)脉冲数据包、共享时间戳的数据微片以及低开销可扩展的No C等技术。主要研究内容如下:(1)通过对比几种常见的神经元模型,选择了简单的LIF模型作为本设计的神经元模型,并且在算法层面上对LIF数学模型进行优化,使其更适合数字电路实现,采用事件驱动方式以提高SNN加速器计算效率、减少存储资源的消耗;(2)以LIF神经元为基础,提出了神经核系统架构,完成了神经核内包括控制模块、神经元状态参数存储模块、突触存储模块、以及神经核与片上网络之间的接口模块的设计,在神经核的设计中采用时分复用技术将1个物理神经元复用为256个逻辑神经元,并采用流水化技术来更新神经元膜电势,以提高神经元数据处理效率,此外还对神经核内部处理的AER数据包格式以及接口传输的数据微片格式进行了设计优化,规定了数据传输时序,保证了神经核的可扩展性;(3)提出了一种低开销的基于SNN的片上网络架构,针对SNN的计算特点,我们从No C的整体拓扑结构、路由器节点的电路设计、包交换技术的选择等方面都进行了优化处理,所设计的架构可以使所有神经元并行工作,并通过No C进行通信。最后,依据所设计的SNN加速器架构,我们提出一种合理高效的网络部署策略,将一个四层的前馈神经网络部署在SNN加速器上。所设计的SNN加速器中的关键模块包括神经元、神经核、片上网络均通过VCS进行功能仿真,验证了其功能的正确性,并且使用DC和PTPX工具对各模块的资源开销和功耗进行分析,神经核模块面积仅为0.2 mm~2,工作频率可达100 MHz,对单个AER脉冲数据包的处理速度优于国外同类型加速器ODIN;基于2×2 2D mesh的No C搭建的SNN加速器可支持4096个神经元和百万个突触,综合得到的面积为3mm~2,时钟频率达100 MHz,功耗低至46 m W,最终实现了高能效、低开销的SNN加速器关键模块的设计。
其他文献
尿酸氧化酶(urate oxidase,Uricase,EC.1.7.3.3)是一种能将尿酸氧化为尿囊素的蛋白酶。合成黄曲霉(Aspergillus flavus)尿酸氧化酶基因,构建表达载体pET43.1a/uox,重组质粒经双酶切鉴定和序列分析,证明插入序列正确,转化到大肠杆菌(Escherichia coli)JM109,菌株经诱导表达尿酸氧化酶蛋白,目的蛋白经过超声破碎,经检测以可溶性蛋白
期刊
激光选区熔化成形技术是重要的金属增材制造技术之一,具有强度高、塑性好、尺寸精度高、表面质量优等优点,已成为大型金属零件高效制造的重要技术之一。阐述了SLM技术在大型金属零件的研究进展,总结了其未来发展趋势。
期刊
背景肝癌(liver cancer)作为一种常见的上消化道恶性肿瘤,是造成全球公共卫生问题的主要原因之一。中国是全球肝癌的高发区之一,以肝细胞癌(hepatocellular caricinoma,HCC)为主。HCC多起病隐匿,且目前尚无有效的早期诊断方法,因此,多数HCC患者确诊时已是中晚期,从而导致肝细胞癌患者的预后较差。因此,寻找可用于肝细胞癌的非侵入性早期诊断方法,具有重要的临床意义和公
学位
学位
激光选区熔化技术(Selective laser melting,SLM)作为第三次工业革命的引擎技术,突破了传统加工技术的制造极限,为航空航天、医疗、汽车等领域高性能部件的结构设计和制造提供了可能。点阵结构因具有高比强度、高比刚度、低热膨胀系数和高比表面积等特性,已被广泛应用于各类学科领域。依托SLM技术,结合材料–结构–性能一体化的创新型制造模式,现阶段点阵结构已经成为多学科领域所提出的轻量化
期刊
目的 针对多光束激光选区熔化加工拼接重叠区域的质量控制难题,研究拼接重叠区域的缺陷形成机理与控制手段。方法 通过建立激光选区熔化介观尺度高保真数值模型,基于流体体积法和射线追踪热源,还原粉末熔化凝固的加工过程,研究不同加工参数下拼接重叠区域熔池动力学和激光反射吸收行为,并对比分析拼接重叠区域和非拼接重叠区域激光-材料能量耦合机制。结果 在拼接重叠区域大小不同的情况下,重叠区域长度分别为160μm、
期刊
目的:本文针对降阶梯式模式在提高急诊分诊中患者满意度应用进行研究。方法:按照急诊分级分诊标准,选取我院2017年4月-2018年4月所接收的560例急诊入抢救室患者作为研究对象将其分为对照组和观察组,给予对照组常规思维模式分诊,给予观察组降阶梯思维模式分诊,对比两组患者满意度。结果:根据研究结果显示,对比两组急诊分诊患者的满意度,其中观察组对急诊分诊非常满意人数为113,占40.35%;满意人数为
会议
水是我们生活环境中不可或缺的一种物质,在日常生活中用途很广泛。水溶液不但存在于江河湖海等自然环境中,还广泛存在于各生物组织细胞中。这些自然条件下的水通常以各种混合水溶液的形式存在。混合水溶液中溶质与水之间的分子间相互作用会改变水溶液的各种性质,其核心问题就是溶质的壳层水微观结构。因此,国内外有许多课题组对于各种壳层水进行了广泛的研究,对壳层水的研究方法也包含了几乎所有的实验技术和理论方法。即便人们
学位
涡旋波束携带有轨道角动量,是特殊的电磁波。作为一种特定类型的涡旋波束,矢量贝塞尔涡旋波束因其无衍射、携带轨道角动量等特性在粒子操纵、信息传输、速度检测等领域得到了广泛的应用。电离层是地球大气中的一个特殊且重要的区域,对人类的生产生活起着极为重要的影响,非相干散射是间接探测电离层等离子体参数的重要技术。非相干散射雷达是这一技术的载体,国际上已有多处设施开展了长期研究。各种类型的涡旋波束因本身特性,都
学位
LD泵浦的被动调Q激光器具有结构紧凑,能量转换率高,成本低,可输出高重复频率、窄脉冲宽度和高峰值功率的激光脉冲等优点,被广泛应用于军事、工业、科研和医疗等领域。但这类被动调Q激光器也存在着重复频率难以精确控制,脉冲稳定性差的缺点。为了解决被动调Q激光器脉冲不稳定的缺点,本文在Nd:YAG/Cr4+:YAG被动调Q激光器中提出了对漂白过程的主动调控技术。主动调控技术是在传统被动调Q激光器的基础上,增
学位