论文部分内容阅读
生物学研究表明,一些生物网络具有复杂的时空连接特性,并伴有可复现的序贯活动,许多复杂的生命行为与此紧密关联。时空连接网络的模式转移序贯行为的研究还可以为序贯决策,记忆搜索,外部刺激的编码与识别等生物智能系统的建模提供可借鉴的方法。本文对基于突触计算的神经网络情景记忆模型进行了系统深入的研究。主要研究了动态突触、混沌神经元、非线性内电位构造函数以及非全连接结构对网络性能的影响,给出了可复现的模式转移序贯行为的产生方法与机理、产生的时空连接条件及调控方法,并分析了时空连接网络模式转移行为的稳定性。论文的主要研究内容和创新点如下:(1)基于动态突触和非线性内电位构造函数的神经网络联想记忆模型研究神经生理学的研究表明,多种神经元的突触连接强度在短时程内会发生较大的变化。本文首先将动态突触植入人工神经网络,研究抑制型动态突触神经网络模型联想记忆。并且进一步设计出一种以非线性内电位函数构造为核心的抗伪状态方案,以取代传统的Hebb规则及其外积法,建立了一种抗伪状态的联想记忆网络,并通过吸引域的变化研究抗伪状态方案的正确性和有效性。仿真结果表明:比采用抑制型动态突触和非线性内电位函数构造的模型比传统Hebb规则及其外积法的Hopfield联想记忆网络在容错性上更优,记忆状态的吸引域明显增大,存储容量也有所增加。(2)基于可控混沌神经元的神经网络联想记忆模型研究在神经系统中,从微观的神经元到宏观的脑电波,理论和实验两方面都发现了混沌现象的存在,它在人工神经网络的信息处理中起着重要作用。但是混沌神经网络的混沌特性使得网络不能稳定到某个模式或者周期性轨道,这样就妨碍了混沌神经网络在信息处理中的应用。本文提出了一种混沌神经网络控制的动态抑制模型,其动态抑制作用于混沌神经元的内状态。混沌神经网络在动态抑制控制作用下,网络的控制目标不需要预先给定,网络可以以自适应的方式进行控制。仿真结果表明:只要控制强度参数选取合理,混沌神经网络在控制作用下就可以稳定到记忆模式。(3)基于复杂网络构造的神经网络联想记忆模型研究真实的大脑神经网络是稀疏网络,而且具有几何效应。为了更加真实地模拟真实神经系统的工作特性,本文提出了一种连接度为正态分布的网络结构,并研究了不同平均连接度对神经网络存储容量和吸引域的影响,以及不同网络结构对神经网络性能的影响。研究结果表明:对于连接度正态分布的神经网络其最大存储容量是平均连接度为0.64N的时候,网络的存储容量是传统的全连接Hopfield神经网络的两倍多。但是,神经元平均连接度越高的网络对联想记忆的鲁棒性越好,而吸引域则随着平均连接度的减小而减小。非全连接的神经网络具有高的存储容量,但是容错性却降低了,网络存储容量的提高是以牺牲网络的容错性为代价的。通过对正态分布网络,ER分布网络,Small-world网络联想记忆性能的比较,得出了一个关于非全连接网络的一般性的结论:网络存储容量的大小不完全取决于网络的平均连接度,而且取决于网络的结构;吸引域的大小与网络的结构无关,只与网络的平均连接度有关。(4)基于混沌神经元和动态突触的情景记忆模型研究许多研究结果表明神经网络的模式转移现象依赖于动态突触和混沌神经元,而传统的情景记忆还没有将神经元突触的动态性以及神经元的混沌性考虑进去。为了准确地描述神经元在情景记忆中的功能,本文提出了一种基于动态突触和混沌神经元的情景记忆模型,并分析研究了抑制型动态突触和混沌神经元对神经网络情景记忆的存储容量、模式转移时间,序列的稳定性以及模式稳定时间的影响。仿真实验结果表明:抑制型动态突触可以提高网络情景记忆的存储容量,缩短模式转移时间,提高情景记忆的稳定性,缩短模式的稳定时间;混沌神经元的特性使得网络模式的稳定时间缩短,并且模式的稳定时间的大小可以由混沌特性参数决定;另外,混沌神经元的特性缩短了模式转移时间。(5)稳定时间可控的情景记忆模型研究在传统的情景记忆模型中,模式的稳定时间是不可以控制的,这与真实的神经系统情景记忆是不符合的。为此,本文研究研究稳定时间可控的情景记忆模型,首先提出了一种基于指数内核取样函数的模式稳定时间可控的情景记忆模型,模式的稳定时间通过取样间隔时间参数来控制。其次,本文又进一步将非全连接结构和内电位构造函数引入情景记忆模型,分别提出了基于复杂网络的情景记忆模型和基于非线性内电位构造函数的多序列情景记忆模型,并分析了神经元不同连接度下神经网络情景记忆的性能,和非线性内电位构造函数对神经网络情景记忆的影响。结果表明,非全连接结构网络情景记忆可以更加有效率地使用神经元之间的连接资源,并且对于不同结构的非全连接网络,在同样的平均连接度下,利用连接资源的效率是一样的,而内电位构造函数则可以提高情景记忆的存储容量。最后,为了更有效地模仿真实神经系统情景记忆的状态,本文提出了一种基于神经元协同激励的不同模式的稳定时间不同的情景记忆模型。在该模型中,不同模式的稳定时间可以通过该模式和输入模式之间的相似性来控制,相似度越高,模式稳定时间越长。另外,神经元协同激励情景记忆存储容量比传统的情景记忆模型得到明显的提高,并且存储容量和网络规模成指数比例关系。