基于STDP的稀疏脉冲神经网络及应用研究

来源 :西南大学 | 被引量 : 0次 | 上传用户:dingmx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
脉冲神经网络(Spiking Neural Network,SNN)是一种受脑启发和事件驱动的人工神经网络(Artificial Neural Network,ANN),在完成各种机器学习任务方面取得了巨大的成功。在对SNN的研究中,基于脉冲时间依赖可塑性(Spike-TimingDependent Plasticity,STDP)的SNN由于认知方式高度符合人脑学习方式,被认为是最有发展潜力的SNN。然而,现有基于STDP的SNN缺乏高效的网络结构,在处理图像分类任务时准确率较差。针对以上问题,本文改进了其网络结构,设计了两种稀疏方法,本文的主要工作如下:(1)针对SNN的网络结构,设计了二并行网络结构和五并行网络结构。这两种网络结构采用并行的方式连接输入层与输出层,每一条路径根据不同的感受域映射图像的输入区域,使得每一条路径上输入到输出的连接存在差异。同时,并行的网络结构连接密集度低于全连接的网络结构,可以减少计算开销。实验结果表明,在同等规模下,使用五并行网络结构的SNN达到的分类精度比使用全连接网络结构的SNN高。(2)设计了两种稀疏方法,分别为三步法和时变权重法。三步法的步骤为先训练SNN,然后稀疏训练好的SNN,最后再训练稀疏后的SNN。实验结果表明,三步法可以显著提高SNN的分类精度,同时可以有效的降低SNN模型的大小。时变权重法是一种在训练过程中动态的改变SNN输入层与输出层连接的稀疏方法,它将数据集分为若干个等大的子集,使每个子集训练的SNN输入层与输出层的连接都存在差异,同时又统一于初始的SNN。引入时变权重法的SNN在整个训练过程中都是稀疏的,这满足了SNN在低资源设备上训练的需求,同时也降低了SNN模型的大小。(3)设计了四种基于STDP的稀疏SNN。采用控制变量法,组合两种并行网络结构和两种稀疏方法,设计了四种基于STDP的稀疏SNN。这样可以有效的甄别网络结构和稀疏方法对SNN性能的影响,确保设计的SNN具有更好的性能。实验结果表明,本文设计的SNN在使用较小SNN模型的情况下,可以取得比较好的分类精度。
其他文献
心血管疾病目前已经成为威胁国民身体健康的首要致命疾病,发病人数逐年上升。心电信号是反映心脏活动的一种重要的生理信号,医生通过观察患者的心电图数据来对心血管疾病进行诊断。为了减轻人工检测的工作量,提高医生对心电图诊断的效率和准确率,及时保障病人的生命安全,围绕心电信号自动检测与诊断的研究具有很强的现实意义。本文深入研究了深度学习技术在心电信号检测与诊断的应用,利用双向长短期记忆网络(Bi-LSTM)
学位
<正>湛蓝的天空与赤金的阳光,搭配艳紫的薰衣草让人沉醉其中。但据记者了解,北京地区的气候环境并不适合大面积种植薰衣草,各大庄园的紫色花海也多以蓝花鼠尾草与柳叶马鞭草为主。北京不适合大面积种植薰衣草法国诗人罗曼·罗兰有一句名言:"法国人之所以浪漫,是因为他们有普罗旺斯",而薰衣草说是普罗旺斯的灵魂,一点也不为过。人们对于美好事物的向往古往今来始终如一,早在1963年我国就先后在北京、上海、西安、重庆
期刊
学位
随着智能技术的发展,高维数据日益普遍,如图像、视频、社交网络关系和用户行为数据等,被广泛应用在特征预测、视频分类和推荐系统关系挖掘等各个领域。而传统的机器学习算法需要先对数据进行向量化或矩阵化处理,这通常会破坏高维数据携带的内部结构信息,并常常会带来过拟合的新问题。近年来,将张量形式的数据应用到经典的线性回归模型中引起了广泛关注,一方面,可以尽可能地保留数据的结构信息,达到更优的预测效果,另一方面
学位
随着大数据时代的到来,互联网用户和网络新闻用户数目激增,出现了各类的新闻媒体平台,新闻文本的数量可以说是在爆炸式的增长之中。对于使用新闻客户端的用户来说,每个人都希望快速准确地从平台上找到自己感兴趣的新闻进行阅读,而对新闻媒体平台而言,将众多的新闻文本信息进行有效的分类也是做好新闻媒体平台很关键的一步。由于中文本身的复杂性,中文新闻分类的难度比起英文新闻要高不少,因此研究中文新闻文本分类对于推进新
学位
决策与我们人类社会活动息息相关,它在我们个人人生规划,企业长远发展,以至于国家行政军事等方面都起着至关重要的作用,因此被广泛应用到了各个领域。犹豫心理在现代决策理论与实践的过程中普遍存在,作为一种常见心理现象,犹豫不决往往会延长决策过程,使得决策者无法及时做出合适决策,进一步造成人力物力的浪费。犹豫模糊集理论通过对决策者的犹豫心理进行定量描述,同时处理不确定信息中的犹豫性与模糊性,为克服决策过程中
学位
随着计算机视觉的发展,图像已经成为人类信息传递的重要手段,其中图像质量是图像数据的重要指标,而在雾天等恶劣天气下,常常会出现诸如图像细节丢失、图像色差、图像对比度下降等问题,这些问题会影响成像设备获取到的图像。这些低质量的图像,不仅仅影响肉眼所见的主观感受,更为关键的是,其作为一组低质量数据会降低许多智能系统的效率甚至导致更加严重的后果。如遥感系统、安防监控、无人驾驶等,清晰的、高质量的图像是这些
学位
近年来,卷积神经网络作为人工智能领域的一种主要方案,已应用于机器视觉,如图像识别,图像处理等领域。随着网络功能的逐渐强大以及精度的不断提高,最新的卷积神经网络需要大量的参数和计算量。由于制造成本的增加和基础物理限制的迫近,单靠器件的扩展已经不能提供期望的性能增益,因此需要新的设备和算法。忆阻器的理论概念在2008年与物理设备相结合,一直是非冯·诺伊曼架构领域的研究热点。由于其高密度,高操作速度和低
学位
近年来,我国经济实力和社会生活发生了翻天覆地的变化,人们对于美好生活的消费需求被充分激发,消费方式也逐渐从传统的保守消费转向借贷消费,与此同时,为了扩大内需、刺激消费,国家大力支持发展信贷产业。伴随着人工智能、区块链、大数据等技术的迅速兴起,金融行业也迎来了数字化和信息化转型。新兴科技与传统金融行业相结合推动了互联网金融的迅猛发展,然而互联网金融的出现,不仅改变了贷款业务,也带来了新的风险。目前互
学位
随着互联网大数据的不断发展,网络形式背景的概念认知学习成为了人工智能领域的一个重要研究方向。形式概念分析作为概念认知学习的一个有效方法,结合网络背景的研究对数据进行处理,很大程度上提高了形式概念分析在网络数据方面的应用。通过网络形式背景刻画形式概念,可以进一步挖掘形式背景数据对网络结构的影响。以图论为理论基础可以进行分析与表示相关网络数据。传统的形式背景可以用网络分析中的关联矩阵表示,网络节点之间
学位