基于STDP的脉冲神经网络无监督学习研究

来源 :广东工业大学 | 被引量 : 0次 | 上传用户:sun8888
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工神经网络的发展,人工神经网络在神经科学的研究中占据重要地位。近期神经科学最新研究成果表明,大脑中神经信息不仅仅是通过脉冲发放频率进行编码,还可以通过脉冲精确定位进行编码。基于脉冲精确定位编码的脉冲神经网络对处理大脑神经信号的问题,特别是处理复杂时空信息等问题,起着非常重要的作用。但由于其内在的不连续性和非线性机制的限制,使得构造高效的脉冲神经网络无监督学习算法非常困难。现有的脉冲神经网络学习算法很多都存在着一些问题,比如算法缺乏生物合理性,适应能力差及在实际应用中分类正确率偏低等。本文首先对脉冲神经网络无监督学习的梯度下降学习规则、脉冲序列学习规则以及突触可塑性Spike Timing Dependent Plasticity(STDP)规则进行了对比分析得到现有算法存在的缺点,在STDP规则的基础上,对突触权重的更新规则进行了改进,提出了一种新的脉冲神经网络无监督学习算法,新的算法生物合理性较强,而且在实际应用中分类正确率能得到提高。本文主要的研究工作包括如下几点:  1、在STDP的基础上,提出了一种新的脉冲神经网络无监督学习算法。该算法应用STDP构造多脉冲误差函数和对应的突触学习规则,并通过神经元的实际脉冲发放频率自适应调整学习率。在学习过程中,利用带移动时间窗口的STDP学习规则,同时STDP带移动时间窗口的所有正变化可以稳定突触强度的分布,并且能保持神经元突触的竞争性。  2、将基于STDP的脉冲神经网络无监督学习推广到多层前馈脉冲神经网络,提出一种新的基于STDP的竞争性与稳定性的多层前馈脉冲神经网络的无监督学习算法。该算法具体分析了STDP的稳定性与竞争性对神经元突触权重更新规则的影响,调整了神经元突触的一些重要参数,采用线性脉冲序列编码方法对MNIST数据集的数据进行编码,并分析了训练结果及隐含层神经元数目对分类正确度的影响。最后将该算法应用到MNIST数据集进行分类,验证该算法的求解能力。  3、本文提出的算法在基于Python的 Brian平台上得以实现,实验结果表明该算法采用的是具有更强生物合理性的突触神经元和网络结构,能在较大程度上缩小处理脉冲发放延迟,分类准确率也能得到较大提高。
其他文献
Reed-Solomon码是一种在移动通信,深空通信,数字存储中广泛应用的非二进制的循环纠错码。它具有严格的代数结构,对随机错误,突发错误和删除错误都有良好的纠错性能。本文主要研究
随着网络通信技术的发展及社交工具的普及,QQ、微信等即时通信工具得到了广泛应用,产生了大量的用于交互的短文本。这些交互式的短文本中包含了丰富的信息资源,具有很高研究价值
对等网络作为区别于传统C/S集中模式的全新共享方式,因其全网节点的参与互动性和平等性赢得了越来越多研究人员的青睐。对等网络按照结构类型可分为结构化和非结构化两种模式,
越来越多的软件系统部署在动态、开放和不可预测的环境中,为了提高系统的灵活性和健壮性,人们希望软件实体能够感知外部环境的变化,并根据环境变化和内部状态不断调整自身的
随着互联网的迅速发展和普及,因特网和计算机网络面临越来越多的安全威胁。网络攻击的直接表现是网络流量异常,这就要求必须快速有效的检测出异常。为了保护目标系统和网络免受
随着嵌入式技术、信息技术和网络技术的快速发展,信息世界和物理世界紧密的联系在一起,在这种的背景下CPS应运而生。CPS是物联网的智能化扩展,也是下一代网络化机电一体化控制系
随着移动互联网的迅速发展和移动终端的普及,微信成为人们学习生活中不可或缺的社交软件。移动端的文章推荐软件不断涌现,推荐效果不尽相同。在文章推荐领域,协同过滤推荐算法与
随着在线社交媒体的快速发展,在线社会网络的研究成为了当前数据科学的一个重要研究方向。复杂网络可以看作是这些真实网络的一种抽象,而发现这些复杂网络的社区结构是理解这些
学位
多标记学习广泛存在于现实世界中,是当前机器学习和数据挖掘领域的研究热点。多标记学习的提出,更好的丰富和发展了现有的分类问题,解决了现实存在的二分类学习算法无法确定和解