基于STDP的递归脉冲神经网络监督学习算法研究

来源 :西北师范大学 | 被引量 : 0次 | 上传用户:yuan_kai
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,脉冲神经网络在智能计算领域的研究与应用越来越广泛,获得了研究者越来越多的关注。虽然脉冲神经网络的早期发展受到了传统人工神经网络的启发,但是其与传统人工神经网络在本质上有很大的不同,脉冲神经网络拥有更强大的计算能力,非常适合于实现复杂时空模式的处理问题。一方面,脉冲神经网络采用精确定时的脉冲序列编码信息,而人工神经网络采应用脉冲频率编码信息。人类大脑对信息的处理过程是实时的,因此与传统人工神经网络相比较,很显然采用时间编码的脉冲神经网络更具有生物真实性。另一方面,大脑皮层网络并不是简单的前馈结构,大脑中的神经元递归地连接在一起,并通过动作电位进行交互。因此与前馈结构的脉冲神经网络相比较,具有反馈连接的递归脉冲神经网络能更好地模拟大脑的信息处理过程。对于脉冲神经网络来说,神经信息以脉冲序列的形式表示,神经元内部状态变量及误差函数不再满足连续可微的性质,所以传统人工神经网络的学习算法不能直接应用到脉冲神经网络中。另外,具有反馈连接使得递归脉冲神经网络具有更为复杂的动力学特征,因而构建其学习算法更为困难。基于以上背景,文中提出两个可以用来训练递归脉冲神经网络的监督学习算法。首先,将Integrate-and-Fire神经元模型映射到ReLU神经元模型,这个映射理论解决了学习规则推导过程中变量的不连续问题,为将传统递归神经网络的监督学习算法应用到递归脉冲神经网络提供了基础。其次,在映射理论的基础上,结合脉冲时间依赖可塑性学习机制,将传统递归神经网络中的经典学习算法-时间反向传播学习算法推导到递归脉冲神经网络中,提出了基于BP-STDP(Backpropagation-Spike-Timing Dependent Plasticity)的递归脉冲神经网络监督学习算法。为了方便描述,将其简称为BP-STDP算法。文中通过脉冲序列学习任务验证BP-STDP算法的有效性,并将学习结果与FOLLOW(Feedback-based Online Local Learning of Weights)算法对比,分析比较了不同参数对学习效果的影响。同时也通过在Iris数据集与WBC数据集上的分类实验验证BP-STDP算法对非线性模式分类问题的处理能力,并与FOLLOW算法的分类结果作比较。最后,在BP-STDP算法的基础上,在反向传播过程中引进了反馈对齐机制,提出了基于FA-STDP(Feedback Alignment-Spike-Timing Dependent Plasticity)的递归脉冲神经网络监督学习算法。为了方便描述,将其简称为FA-STDP算法。实验中通过脉冲序列学习任务验证算法的有效性,分析不同参数对学习效果的影响,并将结果与BP-STDP算法进行比较。同时,也通过在Iris数据集与WBC数据集上的分类实验验证FA-STDP算法对非线性模式分类问题的处理能力,并与BP-STDP算法的分类结果作对比。
其他文献
随着人们对自身健康关注度的增加,市场对实时监测人体状态的电子产品的需求正在持续增加,并推动着柔性电子技术的研究与应用的快速发展。柔性电子的电互联与封装是柔性电子中
炔丙基取代反应是有机化学中一类比较重要的基元反应,尤其是铜催化的不对称炔丙基取代反应,其在构建碳-碳键、碳-杂键以及手性环状骨架结构等表现出非常重要的作用。经过近十
调制识别技术是指在有限或者没有先验信息的条件下,识别接收到的未知信号调制方式。调制识别技术在军用和民用领域都有着广泛的应用。在军用领域,例如,在电子对抗中,一般需要
随着通信技术、无线网络以及数据挖掘技术的大力发展,城市出行轨迹数据已经成为微观尺度下刻画人类社会和活动不可或缺的重要支撑。大量的城市出行轨迹数据不仅能实时展示不
随着我国超高压和特高压技术的大力发展,电晕放电问题日渐突出,对高压电气设备产生了持续性破坏和对环境产生了很多不利影响,对电晕放电及高灵敏度检测技术的研究具有重要意
高效发光的荧光化合物因应用广泛而受到人们的关注。正如大家所熟知的,许多有机荧光染料通常以固体或薄膜的形式使用。然而,许多发光体在稀溶液中发出明亮的荧光,在浓溶液中
在智能电网中,电力用户参与电力系统频率调节的主要方式是需求响应,自动发电控制(Automatic Generation Control,AGC)满足不断变化的用户电力需求,并使系统处于经济的运行状
一直以来,离子液体(ILs)的研究受到各个学科专家以及研究者的热爱与青睐。被称为“绿色溶剂”和“可设计溶剂”的ILs通过专家学者的研究,其研究成果广泛分布于各个与人类生产生
生物技术、纳米技术、单分子技术相结合的蛋白质纳米通道单分子分析技术已经成为跨学科研究的核心技术之一。以α-溶血素蛋白质七聚体α-HL分子为代表的纳米通道使这一技术在
近些年来,空间观测技术在卫星传感器、数据获取存储技术的进步带动下得到了快速发展,目前我们可以快速获取并存储海量的高分辨率遥感卫星图像,这些遥感图像已经成为我们人类