基于RRAM的神经常微分方程网络的存内计算架构设计

来源 :福州大学 | 被引量 : 0次 | 上传用户:guoyafeigood
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着物联网、5G和人工智能大数据时代的到来,神经网络的相关技术和产品将人类带进了人工智能的新纪元。但于此同时,随着任务复杂度的提高,网络模型的参数量也越来越庞大,这样对硬件的低延迟、低能耗、实时性的要求越来越高,但任务的复杂程度是人为无法控制的,而且随着摩尔定律逐渐接近物理极限,依赖摩尔定律和传统冯诺依曼体系架构的硬件处理器性能逐渐趋于顶点,如何降低网络的复杂度并且突破冯诺依曼体系架构的瓶颈成为了如今研究人员关注的热点。在人工智能顶会上提出的一种新型网络结构——神经常微分方程网络,它很好的解决了网络模型庞大的问题,但同时运算量的剧增也给硬件架构带来了挑战。而随着基于非易失性存储器(NVM)的存内计算架构进入科研人员的视野,这种架构作为克服冯诺依曼架构局限性以及实现人工智能的重要技术解决方案,有效利用了NVM阵列结构的高度并行性和器件本身的非易失存储特性,可以实现高效的、存算一体的并行计算。此外,鉴于NVM阵列具有面积小、功耗低等优势,已经成为微电子领域前沿热点研究课题之一。为了充分利用非易失性存储器在神经常微分方程网络硬件实现上的优势,并解决硬件实现的关键科学与技术问题,本论文在基于非易失性存储器的神经常微分方程网络及其硬件实现方法方面展开了如下三个方面的研究:(1)开展了关于神经常微分方程网络硬件化的研究。神经常微分方程网络具有较大的数值计算量,尽管它的优势在于对内存的消耗要小很多,但对计算量的要求会翻倍增加。为了解决上述问题,从神经常微分方程网络的结构特点入手,使用三种成熟的常微分方程求解方法进行处理,同时为了更好的进行硬件优化,对其中数据进行了重组与复用。结果表明这三种求解方案都能很好的实现神经常微分方程网络的任务,并且对数据的优化能让数据利用率提高30.9%。(2)开展了针对神经常微分方程网络的新型阻变式存储器(RRAM)单元非理想效应的优化。由于RRAM器件自身的工艺问题,会产生许多的非理想效应。为了优化这些问题,本文提出了一种SAF纠错方案机制,还针对其他的非理想效应提出了一个补偿方案。这两种方案比直接映射的精度平均提高了41.5%。(3)开展了基于RRAM的神经常微分方程网络的硬件架构设计。由于这是一种新型网络,并没有为该网络专门设计方案,但该网络的潜力巨大,本文为网络设计了基于RRAM的硬件架构设计,包括片上通信,处理单元,RRAM阵列等。使用本文软件优化后的架构与传统架构相比平均能耗节约了3.06倍。
其他文献
光伏发电对能源结构的转型与脱碳起到重要作用,未来仍将持续发展。光伏阵列工作在室外,环境变化不稳定,容易发生各种故障,因此建立准确的光伏阵列故障诊断模型,实现故障的在线识别能够有效的提升光伏阵列的工作效率和安全性。本文基于改进的稀疏表示技术,分别针对光伏阵列电流-电压(I-V)特性和暂态数据的故障特征进行挖掘,以此建立诊断模型,并通过迁移学习使目标阵列的模型建立更加高效,具体研究工作如下:首先,针对
学位
自旋电子学经过了几十年的发展,基于各种材料的自旋注入乃至自旋的调控始终是研究的热点。拓扑绝缘体作为一种具有非平庸金属表面态的非传统绝缘体,具有很强的自旋轨道耦合作用。三维拓扑绝缘体Bi2Se3和Bi2Te3均为窄带隙材料,能够测得较大的自旋极化光电流,为研究材料的自旋极化特性乃至之后制备自旋电子器件提供了一个很好的平台。鉴于不同厚度的纳米片对自旋相关光电流的影响目前尚不明确,以及通过自旋光电流研究
学位
异常检测是机器学习领域的重要分支,当数据的产生过程表现为异常时,会导致异常事件的发生。在入侵检测系统、信用卡欺诈检测、工业传感器设备监测等领域中,异常检测都有广泛的应用,因此对于各应用领域的海量数据进行异常检测具有实际意义。本论文针对传统的异常检测模型在数据规模较大、维度较高等条件下,模型性能效果不佳的问题,提出了基于GAN-Tree的数据异常检测模型;同时为避免上述数据增强方法中生成样本标签的误
学位
近年来,超分子化学经过蓬勃的发展已成为一门高度交叉的学科。金属有机多面体(Metal-organic polyhedrons,MOPs)作为一类有机-无机杂化材料,因其特定的空腔结构以及较高的比表面积成为了超分子化学中的热门研究领域。在众多的MOPs中,利用原位生成的三核锆节点(Cp3Zr3)与不同的羧酸配体自组装构筑的锆基金属有机多面体(Zr-MOPs),作为一类新型的MOPs因其稳定的结构以及
学位
随着通信技术的不断发展,各种无线通信应用层出不穷,6GHz以下(sub6GHz)频段的频谱资源已经被大量占用,而毫米波频段由于其丰富的频谱资源、较高的通信速率以及较宽的通信带宽而得到人们的日益重视,并且已经应用于人们的生活中,例如5G的毫米波通信、60GHz的高通信速率室内无线个人局域网(WPAN)以及77GHz的高精度车载雷达。过去,Ⅲ-Ⅴ族工艺的较高成本限制了毫米波技术在民用领域的发展与应用。
学位
化石能源的过度使用导致二氧化碳(CO2)过量排放,引发温室效应、环境、能源等系列危机。通过清洁可再生的电能将CO2还原成化工原料和燃料,被视为实现碳循环和能量存储的有效途径。然而,CO2分子十分稳定,电化学还原过程中,常常伴随多重电子-质子转移和竞争性氢析出反应,导致能耗高、产物复杂多样。因此,开发高活性、高选择性、高稳定性的廉价催化剂对电化学二氧化碳还原反应(CO2RR)的推广应用至关重要。充分
学位
碳材料因其具有高的化学稳定性、可调的表面基团、丰富的原料来源和结构多变性,近年来被广泛应用于多相催化领域。作为一类载体,碳材料不仅能够为负载金属纳米颗粒、团簇甚至单原子提供锚定位点,还可以通过金属-载体相互作用来调控催化反应性能。从早期的活性碳载体到现在的纳米碳载体,它的催化活性与自身的形貌、杂原子种类、含氧官能团分布或缺陷数量密切相关。在合成方面,鉴于生物质种类多、储量大,是可再生碳库,从生物质
学位
含氮、氯等杂原子的有机化合物是天然产物和药物的核心骨架,因此C-N和C-Cl的形成在有机合成领域占据重要地位。通过太阳光作为能量来源驱动催化合成是C-N和C-Cl构建的理想模式之一。过渡金属配合物具有丰富的活性位点与明确的光吸收中心,是光催化有机合成中的理想催化剂。但是这类材料局限于分子内电荷跃迁类型调节的有限性,使得目前光激发产生的电荷分离激发态寿命较短,导致光催化活性较低。通过非共价相互作用将
学位
自人类有生命活动以来,细菌、病毒等微生物就不断威胁着人类的健康,由于抗生素被滥用导致细菌耐药越来越严重,耐药菌感染已成为全球威胁。随着人们生活水平的提高,人们越来越关注自身的生活环境,对抗菌材料的需求也日益增加。纤维素作为一种可再生的天然高分子材料,具有可生物降解、价格低廉等优点,而且分子链中有大量的羟基,一方面,能与许多其他有机化合物发生反应,另一方面,纤维素具有一定的还原性,能将金属离子还原成
学位
变色材料具有感知外界刺激并改变颜色和物理性质的特点,在光催化、磁性、防伪、吸附和可穿戴电子皮肤等领域得到广泛的关注。无机光致变色材料热稳定性高,但颜色单一、结构调控难;有机光致变色材料颜色丰富、结构多样,但稳定性弱。无机-有机杂化材料可以发挥无机和有机组分各自优势,并可能产生新的性能。然而,如何实现无机和有机部分两者的协同仍然是光致变色材料领域的一大挑战。本论文以紫精类化合物作为研究对象,采用无机
学位