单节点硬件储备池计算的设计与实现

来源 :太原理工大学 | 被引量 : 0次 | 上传用户:huangyqing
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
与传统计算机相比,人工神经网络在解决时间序列预测、图像识别等问题时有着显著优势。人工神经网络根据其拓扑结构可分为前馈神经网络和递归神经网络。前馈神经网络适合处理静态任务,应用范围较窄,而递归神经网络通过增加反馈信号,使得网络具有对过去历史的记忆能力,有着更广泛的用途。但是递归神经网络在训练过程中涉及到的参数更多,导致其训练算法复杂、训练时间较长,且不易收敛。基于传统递归神经网络,研究人员进一步提出了储备池计算系统,它由输入层、储备池层和输出层构成。递归神经网络中的隐藏层被稀疏连接的网络结构代替,即储备池层。输入层和储备池层之间的连接权重以及储备池层内部非线性节点之间的连接权重预先生成且固定不变,不需要被训练。唯一需要训练的参数是储备池层和输出层之间的输出权重,这从根本上减少了人工神经网络需要被训练的参数量,缩短了训练时间,克服了传统人工神经网络训练困难的问题。随着储备池计算的进一步发展,具有延时反馈的单节点储备池通过时分复用技术,将网络结构储备池的多个非线性节点缩减至一个,有效减少了资源消耗,为储备池大规模并行化、集成化和小型化奠定了基础。本文基于自治布尔网络的相关理论,提出了一种具有延时反馈的单节点储备池结构,建立了相应的数学模型。该储备池的非线性节点仅由两个逻辑门构成,极大的减少了储备池物理实现难度和硬件资源消耗。根据逻辑门类型的不同,将提出的储备池划分为四类,并进行了对比研究。通过对储备池层施加不同的外部激励,研究了四类储备池所表现出的衰减记忆特性和分离特性。使用储备池计算系统完成了MNIST手写数字图像识别任务。首先,系统输入层对图像进行二值化处理。然后,储备池层借助逻辑器件自身的非线性特性对图像数据完成非线性映射。最后,系统输出层根据采集到的储备池状态,通过岭回归算法对输出权重进行训练,采用赢者通吃的策略对输出结果进行分类,实现对手写数字图像的识别。根据建立的数学模型,对比研究了四类储备池的超参数对识别正确率的影响,包括反馈延迟时间、复位周期和虚拟节点数量。仿真结果表明,通过选取适当的超参数,四类储备池的识别正确率均高于线性分类器(86%),其中由异或门和或门构成的非线性节点实现的单节点储备池获得了91.30%的最大识别正确率。在FPGA平台上设计实现了所提出的储备池结构,在PC端完成输入层对数据的预处理过程以及输出层的训练和分类过程。在仿真实验的指导下,对硬件实现的四类储备池的超参数进行了优化,包括反馈延迟时间和虚拟节点的数量,并与线性分类器的识别正确率进行了对比。实验结果表明,四类具有延时反馈的单节点储备池在合适的反馈延迟时间参数下,仅需要1个虚拟节点的储备池状态,即可获得优于线性分类器的识别正确率。通过增加虚拟节点数量,可获得最大91.72%的识别正确率。在使用更少逻辑器件的情况下能够与多节点储备池计算的识别正确率相媲美。此外还研究了训练样本数量对识别正确率的影响,当虚拟节点数量为1~3个,训练样本量达到10000时(仅为线性分类器所需训练样本量的1/6),四类储备池的识别正确率均高于线性分类器。
其他文献
活性炭(Activated Carbon,AC)具备高比表面积、丰富的孔隙结构、多样的表面化学基团等特点,作为使用最为广泛的吸附剂被大量应用于水处理工艺中。目前水处理AC的制备原料主要是煤炭和石油等材料,成本较高,限制了我国AC的应用。食用菌业产生的废菌渣(Mushroom Residue,MR),具备疏松多孔、成本低廉等特点,是生产生物质AC的优秀前体之一。使用MR制备废菌渣活性炭(MRAC)既
学位
煤焦化过程排放的挥发性有机物(VOCs)严重影响区域环境空气质量,对人体健康危害较大。明确煤焦化过程VOCs排放的浓度与组成特征、光化学反应活性和排放因子对改善受煤焦化工业影响的区域环境有重大意义;构建焦化行业VOCs源成分谱、同位素组成特征可以为区域环境VOCs的来源解析提供重要的数据支撑。本文以典型焦化厂为研究对象,分别对各焦化厂炼焦区域(焦炉、装煤、出焦、拦焦和焦炉顶烟气)、化产回收和污水处
学位
我国即世界上第一人口大国和最大的发展中国家,水资源是基础的自然资源,根据资料显示,我国缺水城市约400个,严重缺水城市约110个,水资源短缺、地表水污染严重是我国目前面临的重要难题。其中,我国的工业用水重复利用率仅有45%,其中耗水量远远高于工业相对发达的国家。因此,如何减少工业用水量对节约水资源有重大意义。理论上燃煤电厂的循环冷却水系统是火电厂耗水量最大的系统,一般占工业用水量高达60%~75%
学位
光子晶体是一种周期性结构,在操控光子的方面上具有巨大的潜力。基于光子晶体的光子器件在加工过程中不可避免的会引入无序、缺陷等,从而导致散射损耗,并且损耗会随着器件结构尺寸变小而加剧,严重制约了光子器件微型化的进一步发展。对缺陷免疫且背向散射抑制的光学拓扑态的出现为低损耗光子集成芯片和光通信器件的设计与研究提供了一个很好的思路,使光通信领域发生了革命性的变化。光子拓扑绝缘体以及受到拓扑保护的光子态可以
学位
信息安全关乎国家安全、经济稳定以及个人隐私,混沌通信基于物理层加密的特点使其具备高安全度从而能为信息安全提供更好的保障,因而在近年来取得了飞速发展。混沌同步保密通信是混沌通信领域的重要分支,高质量同步的实现需要通信收发双方系统参数高度匹配,因此,传统混沌同步通信不仅面临同步系数较低的问题,而且增加了硬件实现的难度。储备池计算(Reservoir Computing,RC)作为一种新型的神经网络,具
学位
在Ⅲ-Ⅴ族化合物的量子点中,例如,GaAs、InP、InAs,其晶格原子的核自旋不为零,而这些核自旋与局域电子自旋之间的超精细相互作用是低温情形下引起量子点电子自旋退相干的主要原因。因此,如何定量获取量子点中有效核磁场的大小和方向对于深入理解其局域电子的自旋动力学有重要的科学意义。电流有限频率散粒噪声谱能够很好的反映电流随时间的涨落,提供与量子系统内部能级结构有关的信息,特别是,在耦合量子点系统中
学位
随着城市化进程的快速发展,城市地下空间资源的不断开发,城市道路塌陷事故频繁发生。大量路面质量调查发现,道路塌陷与地下隐性病害有很大关系。三维探地雷达(Ground Penetrating Radar,GPR)是一种利用电磁波反射来确定地下介质分布的无损、快速检测技术,已成为道路病害检测的首选方法。但是目前GPR数据解译依赖于专家经验,误判、漏判率大、速度慢,目标识别是数据解译的关键一环,因此GPR
学位
煤炭、石油、天然气等化石能源的大量消耗引发了全球能源危机和环境危机,可再生资源的开发利用越来越迫切。而氢能被视为一种清洁能源,目前氢气的大规模生产主要通过几种工业方法来实现,比如煤气化、石油裂解和低温蒸馏等,但这些方法大大增加了生产氢气的成本。其中电催化水解技术由于具备工艺简单、无污染和氢气产品纯度高等优势引起了广泛的研究。但在电解水的过程中,缓慢的电极反应动力学和较高的过电位降低了制氢效率。为了
学位
在耦合双量子点系统中,准确地理解两电子相互作用诱导的电子跳跃过程和自旋交换过程将有助于耦合量子点系统的自旋操控。在通常情况下,耦合双量子点系统的哈密顿量由哈伯德模型描述,其仅含两个量子点之间的电子跳跃过程。但是,当考虑通常的两电子相互作用时,其二次量子化的哈密顿量,即,广义哈伯德模型描述的耦合双量子点哈密顿量还将包含三个新的跳跃过程:占据数调制的跳跃过程、自旋反平行的交换跳跃过程、电子对跳跃过程。
学位
当前,白光LED的主要获得方式是利用补色原理令蓝光LED芯片激发YAG黄色荧光粉,但因为光谱中缺少红光成分,往往使得呈现出来的白光色温高(CCT>4500 K),显色指数低(Ra<80),限制了LED在室内照明、卖场照明等方向的应用。研究发现,红光的作用不止如此,植物体内的光合色素和光敏色素对红光波段的光有高效的吸收,其中Pfr可吸收700 nm以上的远红光。本论文基于以上背景,探究了Mn4+掺杂
学位