基于突触计算的神经网络情景记忆模型研究

来源 :东华大学 | 被引量 : 2次 | 上传用户:bxybxy0531
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
生物学研究表明,一些生物网络具有复杂的时空连接特性,并伴有可复现的序贯活动,许多复杂的生命行为与此紧密关联。时空连接网络的模式转移序贯行为的研究还可以为序贯决策,记忆搜索,外部刺激的编码与识别等生物智能系统的建模提供可借鉴的方法。本文对基于突触计算的神经网络情景记忆模型进行了系统深入的研究。主要研究了动态突触、混沌神经元、非线性内电位构造函数以及非全连接结构对网络性能的影响,给出了可复现的模式转移序贯行为的产生方法与机理、产生的时空连接条件及调控方法,并分析了时空连接网络模式转移行为的稳定性。论文的主要研究内容和创新点如下:(1)基于动态突触和非线性内电位构造函数的神经网络联想记忆模型研究神经生理学的研究表明,多种神经元的突触连接强度在短时程内会发生较大的变化。本文首先将动态突触植入人工神经网络,研究抑制型动态突触神经网络模型联想记忆。并且进一步设计出一种以非线性内电位函数构造为核心的抗伪状态方案,以取代传统的Hebb规则及其外积法,建立了一种抗伪状态的联想记忆网络,并通过吸引域的变化研究抗伪状态方案的正确性和有效性。仿真结果表明:比采用抑制型动态突触和非线性内电位函数构造的模型比传统Hebb规则及其外积法的Hopfield联想记忆网络在容错性上更优,记忆状态的吸引域明显增大,存储容量也有所增加。(2)基于可控混沌神经元的神经网络联想记忆模型研究在神经系统中,从微观的神经元到宏观的脑电波,理论和实验两方面都发现了混沌现象的存在,它在人工神经网络的信息处理中起着重要作用。但是混沌神经网络的混沌特性使得网络不能稳定到某个模式或者周期性轨道,这样就妨碍了混沌神经网络在信息处理中的应用。本文提出了一种混沌神经网络控制的动态抑制模型,其动态抑制作用于混沌神经元的内状态。混沌神经网络在动态抑制控制作用下,网络的控制目标不需要预先给定,网络可以以自适应的方式进行控制。仿真结果表明:只要控制强度参数选取合理,混沌神经网络在控制作用下就可以稳定到记忆模式。(3)基于复杂网络构造的神经网络联想记忆模型研究真实的大脑神经网络是稀疏网络,而且具有几何效应。为了更加真实地模拟真实神经系统的工作特性,本文提出了一种连接度为正态分布的网络结构,并研究了不同平均连接度对神经网络存储容量和吸引域的影响,以及不同网络结构对神经网络性能的影响。研究结果表明:对于连接度正态分布的神经网络其最大存储容量是平均连接度为0.64N的时候,网络的存储容量是传统的全连接Hopfield神经网络的两倍多。但是,神经元平均连接度越高的网络对联想记忆的鲁棒性越好,而吸引域则随着平均连接度的减小而减小。非全连接的神经网络具有高的存储容量,但是容错性却降低了,网络存储容量的提高是以牺牲网络的容错性为代价的。通过对正态分布网络,ER分布网络,Small-world网络联想记忆性能的比较,得出了一个关于非全连接网络的一般性的结论:网络存储容量的大小不完全取决于网络的平均连接度,而且取决于网络的结构;吸引域的大小与网络的结构无关,只与网络的平均连接度有关。(4)基于混沌神经元和动态突触的情景记忆模型研究许多研究结果表明神经网络的模式转移现象依赖于动态突触和混沌神经元,而传统的情景记忆还没有将神经元突触的动态性以及神经元的混沌性考虑进去。为了准确地描述神经元在情景记忆中的功能,本文提出了一种基于动态突触和混沌神经元的情景记忆模型,并分析研究了抑制型动态突触和混沌神经元对神经网络情景记忆的存储容量、模式转移时间,序列的稳定性以及模式稳定时间的影响。仿真实验结果表明:抑制型动态突触可以提高网络情景记忆的存储容量,缩短模式转移时间,提高情景记忆的稳定性,缩短模式的稳定时间;混沌神经元的特性使得网络模式的稳定时间缩短,并且模式的稳定时间的大小可以由混沌特性参数决定;另外,混沌神经元的特性缩短了模式转移时间。(5)稳定时间可控的情景记忆模型研究在传统的情景记忆模型中,模式的稳定时间是不可以控制的,这与真实的神经系统情景记忆是不符合的。为此,本文研究研究稳定时间可控的情景记忆模型,首先提出了一种基于指数内核取样函数的模式稳定时间可控的情景记忆模型,模式的稳定时间通过取样间隔时间参数来控制。其次,本文又进一步将非全连接结构和内电位构造函数引入情景记忆模型,分别提出了基于复杂网络的情景记忆模型和基于非线性内电位构造函数的多序列情景记忆模型,并分析了神经元不同连接度下神经网络情景记忆的性能,和非线性内电位构造函数对神经网络情景记忆的影响。结果表明,非全连接结构网络情景记忆可以更加有效率地使用神经元之间的连接资源,并且对于不同结构的非全连接网络,在同样的平均连接度下,利用连接资源的效率是一样的,而内电位构造函数则可以提高情景记忆的存储容量。最后,为了更有效地模仿真实神经系统情景记忆的状态,本文提出了一种基于神经元协同激励的不同模式的稳定时间不同的情景记忆模型。在该模型中,不同模式的稳定时间可以通过该模式和输入模式之间的相似性来控制,相似度越高,模式稳定时间越长。另外,神经元协同激励情景记忆存储容量比传统的情景记忆模型得到明显的提高,并且存储容量和网络规模成指数比例关系。
其他文献
目的 分析匹多莫德+丙酸氟替卡松防治儿童哮喘反复发作效果。方法 选择78例儿童哮喘反复发作患儿,按照治疗方法分为观察组和对照组,各39例。观察组采用匹多莫德颗粒联合丙酸氟
<正>“互联、互通、互操作”(简称“三互”)是指信息化系统、平台与部队之间基于统一的标准而实现的数据交换与共享以及协同工作的能力,是信息化装备形成战斗力的基础。美军
2019年9月工博会期间,菲尼克斯电气智能战略发布会在国家会展中心顺利举行,向业界全面展现了菲尼克斯电气在推进数字化转型中的战略布局和最新成果。当今时代是数字化引领的
针对自动变换光网络组播信令过程中存在的安全威胁,提出了一种高效的基于GMPLS RSVP-TE的安全组播信令协议。该协议采用P2MP(point-to-multipoint)信令模型,通过数字签名和消息
乡村旅游作为旅游产业重要组成部分在全域旅游发展中的作用日趋明显,基于此,结合乡村旅游发展特征从宏观规划制定、旅游信息及数据平台建设、乡村旅游与其他相关产业融合及制
高校兼职班主任兼具大学生成人和成才教育的双重职责。经过探索与实践,我校成功引进医学影像青年专业教师兼职班主任的创新管理模式。实践证实,青年专业教师担任兼职班主任对
过氧化氢会在很多酶催化的氧化反应中产生,包括葡萄糖氧化酶、尿酸氧化酶、胆固醇氧化酶、乙醇氧化酶等,因而测定过氧化氢的浓度可用于间接测定各种目标物质的浓度。这为发展针
目的分析口腔正畸中微型种植体支抗的临床应用效果。方法将74例实施口腔正畸患者,根据不同治疗方法分为观察组(微型种植体支抗治疗)和对照组(非种植体强支抗治疗),各37例。通过不
红色文化资源具有重要的时代价值。六安是红色资源最集中、最丰富地区之一,红色文化资源在老区市居于前列。充分发掘红色资源优势,打造全国一流红色文化品牌,提升大别山精神
土地等级制度是维新政府为加快地税改革的进度,保证地税收入而施行的措施。该制度经过地方府县的试行后,被政府采纳并规范化,形成了完善的土地等级编制规则,最终成为政府向农