论文部分内容阅读
【摘要】混合时滞神经网络是神经网络的一个非常重要的组成部分，它在信号处理、人工智能、全局优化以及动态图像处理等方面有着广泛的应用。本文从混合时滞神经网络的发展脉络着手进行论述，分析了混合时滞神经网络稳定性的发展情况，并结合实例对混合时滞神经网络的稳定性进行了分析。
【关键词】混合时滞 神经网络 稳定性分析
【中图分类号】G642 【文献标识码】A 【文章编号】2095-3089（2016）04-0237-02
人工神经网络是基于人脑的功能，通过建构与生物神经元类似的电路结构，从而在微观的层次上实现对人类智能的仿真。神经网络是由神经元的相互连接而形成的，反映在数学中，神经元实质上就是适当的函数，也被称为激活函数。神经网络在模式识别、优化计算、智能控制以及联想记忆等领域得到了广泛的应用，发展前景非常的广阔[1]。
一、混合时滞神经网络发展的脉络
稳定性研究的开始可以追溯到十九世纪末期的Lyapunov理论和Poincare理论，在我国对稳定性进行充分研究的是著名物理学家钱学森，钱学森在其著名的《工程控制论》中，明确指出，稳定性是系统控制的第一要求。美国的著名数学家LsSalle也说过，吸引全世界的数学家注意的点就是稳定性。由此可见，稳定性在数学研究中具有极其重要的作用[2]。
大部分的动力系统都会随着时间的演化不仅依赖于系统的当前状态，并且还会依赖于系统过去的某个时刻，这就是被科学家们称作的时滞动力系统。在工程系统中，时滞一般是指对测控过程中的测量时滞、形成控制决策所需要的时滞以及信号传输中的时滞等，这也是为什么大部分的动力学系统都需要时滞动力系统来进行描述的主要原因。事实上，时滞系统的初始状态空间是一个无限维的空间，而且没有特殊的性质，因此对其进行理论分析非常困难 [3]。
二、混合时滞神经网络稳定性的发展研究分析
系统的稳定性在神经网络的应用中非常的广泛，如最优化的问题研究、模式识别研究以及图像处理研究等，都需要运用系统的稳定性。在上个世纪，有很多文献都给出了不同类型神经网络的稳定性判据，最著名的当属Hopfield神经网络。神经网络规模的应用范围也在不断的扩大，人们对时滞神经网络模型的研究也越来越深入。时滞通常是由定时的时滞发展到连续分布的时滞。当前神经网络稳定性的研究领域运用的主要方法就是Lyapunov泛函，然后再利用不同的不等式来对不等式进行分析，从而得到具有稳定性的数据[4]。
在优化问题的应用中，需要根据问题的基本特征，对设计所要求的神经网络达到唯一的、全局的渐进稳定的平衡点。当神经网络应用于实时的计算时，为了有效的提高收敛的速度，就需要神经网络必须具有非常高的指数收敛度。这也是时滞神经网络的全局渐近稳定性与全局指数稳定性研究如此吸引人的最为主要的原因。时滞反馈网络的应用和研究需要大量的具有稳定性的数据作为基础，因此，人们需要在不断扩展的网络模型的条件下放宽对网络中所有参数和激励函数的限制。只有这样，才能更好的促进神经网络研究的快速发展[5]。
目前，对时滞反馈神经网络解的稳定性进行判别和分析的主要方法是Lyapunov方法，在进行判别和分析时，需要同时结合泛函数的分不等式稳定性理论来推导网络解的稳定性，通过这一方法能够将稳定性的研究放到某个适当的定义系统的轨迹上，而且通过对这些泛函数的研究分析，能够得到稳定性的相应条件。这些稳定性条件的最常用的表述形式就是我们经常用的线矩不等式、系数矩阵的范数不等式以及Hanalay微分不等式。在这一研究领域，由于线矩不等式方法对系统的参数的限制比其它方法要少，而且比较容易验证，因此，这种方法在稳定性理论的研究中应用的非常的广泛[6]。
三、混合时滞神经网络的稳定性分析研究
最近几年，随着人们对稳定性研究的进一步发展，人们对于驱动-响应系统的同步问题更加的重视，而且经过大量的实践和理论分析，人们发现驱动-响应系统是包含同样的激活函数的。但是，在实际的模型中，驱动-响应系统却含有不同的激活函数，需要对非恒同的情况进行分析研究，也就是说驱动-响应系统的激活函数含有不相匹配的参数，致使对混沌系统的同步控制变得更加的复杂。由此可知，研究混合时滞神经网络的稳定性是非常有必要的[7]。
如下混合时滞神经网络
其中，是神经元的状态，
。在（1）中，是定义在上的实值内部函数。代表离散时滞，表示分布时滞；代表外部输入；；，，，分别代表连接权矩阵，离散时滞连接权矩阵和分布时滞连接权矩阵。
对于如下两种情形的时滞，
第一种情形是，如果所有的和给定的标量 、h>0和，
是一个可微函数，且满足以下条件：，，
是一个连续函数且满足以下条件
。 。
第二种情形是，如果所有的和给定的标量 、h>0和，且和都是连续的函数，且函数和函数满足以下条件：
。
假设是系统（1）的平衡点，那么会得到如下系统
根据上面的条件我们可以得出对于混合时滞神经网络系统（2）， 在满足一定条件的第一种情况和第二种情况下，它的平衡点是全局指数稳定的 [8]。
时滞神经网络的稳定性在理论和实践方面都得到了广泛的研究，但是对混合时滞的神经网络模型稳定性的研究并不是很多。除此之外，在神经网络稳定性的研究领域，虽然有很多大量的判别条件，不过由于大部分的条件都需要采用计算矩阵范数的方法来进行，在进行验证的时候也比较的困难，而且限制條件也非常的严格，在实际中的应用比较少。通过利用线性矩阵不等式研究神经网络的稳定性能够在很大程度上克服以上提及的缺点，所得到的条件更少保守，并且更容易得到充分的验证[9]。
线性矩阵不等式的研究在最近几年受到人们的广泛关注的原因，既有理论方面的原因，也有实践方面的原因。从理论上来说，人们可以利用很多的矩形运算技巧来对线性矩阵不等式问题进行研究和推理；但是，从实际的观点来说，线性矩阵不等式问题也可以凭借数值算法并借助电脑的强大的运算能力从而快速、有效的求出数值解，最终使得线性矩阵不等式的求解变得更加的容易控制，从而使问题的解决更加可行。假设可以将一个复杂的问题转换成线性矩阵不等式问题，那么就能够利用Matab的LMI Toolbox进行求解了。 运用线性矩阵的不等式对混合时滞条件下的神经网络的稳定性进行研究分析，可以充分掌握神经网络的全局指数的稳定性。通过建构新的Lyapunov-Krasovkii泛函，利用随机微分与矩阵变换技巧导出线性矩阵不等式的稳定性数据。由于线性矩阵不等式的稳定性数据比利用矩阵范数进行估计的判据更为保守，因此，人们可以利用MATLAB提供的线性矩阵不等式工具箱进行求解验证，从而真正应用于实践[10]。
人们按照Lyapunov的稳定性理论，建构了新型的Lyapunov-Krasovskii泛函。从而对混合时滞条件下神经网络的稳定性进行了科学、合理的分析。在对混合时滞条件下的神经网络的稳定性进行分析时，线性矩阵不等式的应用为对时滞稳定性的进一步研究提供了有利的条件。同时，对网络中所包含的随机扰动采用了随机微分公式的讨论模式，从而使得混合时滞条件下的神经网络能够应用Lyapunov的稳定性讨论技巧与方法。在模型中对激活函数或者连接权矩阵的限制对混合时滞条件下的神经网络的研究深有帮助，而且采用线性矩阵不等式的表示方式，比之前的矩阵范数的判别条件要更加的有利。
四、结语
综上所述，混合时滞条件下的神经网络的稳定性分析是以Lyapunov的稳定性理论与线性矩阵不等式技术为基础，同时利用积分不等式的方法，对混合时滞条件下的神经网络的稳定性进行了科学、合理的分析，并给出了时滞依赖指数稳定性的基本准则，从而将对混合时滞条件下的神经网络的稳定性的研究又向前推进了一大步。
参考文献：
[1]武志鹏.带有混合时滞的神经网络的稳定性分析[D].山西大学，2008.
[2]刘晓琳.混合变时滞神经网指数稳定性分析[D].曲阜师范大学，2009.
[3]王宁，孙晓玲.基于LMI的混合时滞随机神经网络指数稳定性[J].计算机仿真，2010，07：125-129.
[4]张金.具混合时滞的随机神经网络的稳定性分析[J].苏州大学学报（自然科学版），2011，02：16-22.
[5]吴文娟，刘德友，张静文，刘海涛.具有混合时滞的随机Hopfield神经网络的稳定性分析[J].兰州理工大学学报，2011，03：89-93.
[6]陈一鸣，徐增辉，赵所所，周志全.具有混合时滞随机离散神经网络的渐近稳定性分析[J].郑州大学学报（理学版），2011，04：33-38.
[7]耿立杰，李海颖，张晓静，苏广.具有混合时滞的随机反应扩散神经网络指数稳定性[J].工程数学学报，2014，05：687-696.
[8]龙述君，张永新，向丽.具有混合时滞的随机细胞神经网络的穩定性分析[J].四川师范大学学报（自然科学版），2012，06：796-801.
[9]毛凯，时宝.具有混合时滞的BAM神经网络全局指数稳定性分析[J].哈尔滨理工大学学报，2012，06：6-13.
[10]汪群芳.混合时滞模糊神经网络的稳定性与同步研究[D].暨南大学，2013.
【关键词】混合时滞 神经网络 稳定性分析
【中图分类号】G642 【文献标识码】A 【文章编号】2095-3089（2016）04-0237-02
人工神经网络是基于人脑的功能，通过建构与生物神经元类似的电路结构，从而在微观的层次上实现对人类智能的仿真。神经网络是由神经元的相互连接而形成的，反映在数学中，神经元实质上就是适当的函数，也被称为激活函数。神经网络在模式识别、优化计算、智能控制以及联想记忆等领域得到了广泛的应用，发展前景非常的广阔[1]。
一、混合时滞神经网络发展的脉络
稳定性研究的开始可以追溯到十九世纪末期的Lyapunov理论和Poincare理论，在我国对稳定性进行充分研究的是著名物理学家钱学森，钱学森在其著名的《工程控制论》中，明确指出，稳定性是系统控制的第一要求。美国的著名数学家LsSalle也说过，吸引全世界的数学家注意的点就是稳定性。由此可见，稳定性在数学研究中具有极其重要的作用[2]。
大部分的动力系统都会随着时间的演化不仅依赖于系统的当前状态，并且还会依赖于系统过去的某个时刻，这就是被科学家们称作的时滞动力系统。在工程系统中，时滞一般是指对测控过程中的测量时滞、形成控制决策所需要的时滞以及信号传输中的时滞等，这也是为什么大部分的动力学系统都需要时滞动力系统来进行描述的主要原因。事实上，时滞系统的初始状态空间是一个无限维的空间，而且没有特殊的性质，因此对其进行理论分析非常困难 [3]。
二、混合时滞神经网络稳定性的发展研究分析
系统的稳定性在神经网络的应用中非常的广泛，如最优化的问题研究、模式识别研究以及图像处理研究等，都需要运用系统的稳定性。在上个世纪，有很多文献都给出了不同类型神经网络的稳定性判据，最著名的当属Hopfield神经网络。神经网络规模的应用范围也在不断的扩大，人们对时滞神经网络模型的研究也越来越深入。时滞通常是由定时的时滞发展到连续分布的时滞。当前神经网络稳定性的研究领域运用的主要方法就是Lyapunov泛函，然后再利用不同的不等式来对不等式进行分析，从而得到具有稳定性的数据[4]。
在优化问题的应用中，需要根据问题的基本特征，对设计所要求的神经网络达到唯一的、全局的渐进稳定的平衡点。当神经网络应用于实时的计算时，为了有效的提高收敛的速度，就需要神经网络必须具有非常高的指数收敛度。这也是时滞神经网络的全局渐近稳定性与全局指数稳定性研究如此吸引人的最为主要的原因。时滞反馈网络的应用和研究需要大量的具有稳定性的数据作为基础，因此，人们需要在不断扩展的网络模型的条件下放宽对网络中所有参数和激励函数的限制。只有这样，才能更好的促进神经网络研究的快速发展[5]。
目前，对时滞反馈神经网络解的稳定性进行判别和分析的主要方法是Lyapunov方法，在进行判别和分析时，需要同时结合泛函数的分不等式稳定性理论来推导网络解的稳定性，通过这一方法能够将稳定性的研究放到某个适当的定义系统的轨迹上，而且通过对这些泛函数的研究分析，能够得到稳定性的相应条件。这些稳定性条件的最常用的表述形式就是我们经常用的线矩不等式、系数矩阵的范数不等式以及Hanalay微分不等式。在这一研究领域，由于线矩不等式方法对系统的参数的限制比其它方法要少，而且比较容易验证，因此，这种方法在稳定性理论的研究中应用的非常的广泛[6]。
三、混合时滞神经网络的稳定性分析研究
最近几年，随着人们对稳定性研究的进一步发展，人们对于驱动-响应系统的同步问题更加的重视，而且经过大量的实践和理论分析，人们发现驱动-响应系统是包含同样的激活函数的。但是，在实际的模型中，驱动-响应系统却含有不同的激活函数，需要对非恒同的情况进行分析研究，也就是说驱动-响应系统的激活函数含有不相匹配的参数，致使对混沌系统的同步控制变得更加的复杂。由此可知，研究混合时滞神经网络的稳定性是非常有必要的[7]。
如下混合时滞神经网络
其中，是神经元的状态，
。在（1）中，是定义在上的实值内部函数。代表离散时滞，表示分布时滞；代表外部输入；；，，，分别代表连接权矩阵，离散时滞连接权矩阵和分布时滞连接权矩阵。
对于如下两种情形的时滞，
第一种情形是，如果所有的和给定的标量 、h>0和，
是一个可微函数，且满足以下条件：，，
是一个连续函数且满足以下条件
。 。
第二种情形是，如果所有的和给定的标量 、h>0和，且和都是连续的函数，且函数和函数满足以下条件：
。
假设是系统（1）的平衡点，那么会得到如下系统
根据上面的条件我们可以得出对于混合时滞神经网络系统（2）， 在满足一定条件的第一种情况和第二种情况下，它的平衡点是全局指数稳定的 [8]。
时滞神经网络的稳定性在理论和实践方面都得到了广泛的研究，但是对混合时滞的神经网络模型稳定性的研究并不是很多。除此之外，在神经网络稳定性的研究领域，虽然有很多大量的判别条件，不过由于大部分的条件都需要采用计算矩阵范数的方法来进行，在进行验证的时候也比较的困难，而且限制條件也非常的严格，在实际中的应用比较少。通过利用线性矩阵不等式研究神经网络的稳定性能够在很大程度上克服以上提及的缺点，所得到的条件更少保守，并且更容易得到充分的验证[9]。
线性矩阵不等式的研究在最近几年受到人们的广泛关注的原因，既有理论方面的原因，也有实践方面的原因。从理论上来说，人们可以利用很多的矩形运算技巧来对线性矩阵不等式问题进行研究和推理；但是，从实际的观点来说，线性矩阵不等式问题也可以凭借数值算法并借助电脑的强大的运算能力从而快速、有效的求出数值解，最终使得线性矩阵不等式的求解变得更加的容易控制，从而使问题的解决更加可行。假设可以将一个复杂的问题转换成线性矩阵不等式问题，那么就能够利用Matab的LMI Toolbox进行求解了。 运用线性矩阵的不等式对混合时滞条件下的神经网络的稳定性进行研究分析，可以充分掌握神经网络的全局指数的稳定性。通过建构新的Lyapunov-Krasovkii泛函，利用随机微分与矩阵变换技巧导出线性矩阵不等式的稳定性数据。由于线性矩阵不等式的稳定性数据比利用矩阵范数进行估计的判据更为保守，因此，人们可以利用MATLAB提供的线性矩阵不等式工具箱进行求解验证，从而真正应用于实践[10]。
人们按照Lyapunov的稳定性理论，建构了新型的Lyapunov-Krasovskii泛函。从而对混合时滞条件下神经网络的稳定性进行了科学、合理的分析。在对混合时滞条件下的神经网络的稳定性进行分析时，线性矩阵不等式的应用为对时滞稳定性的进一步研究提供了有利的条件。同时，对网络中所包含的随机扰动采用了随机微分公式的讨论模式，从而使得混合时滞条件下的神经网络能够应用Lyapunov的稳定性讨论技巧与方法。在模型中对激活函数或者连接权矩阵的限制对混合时滞条件下的神经网络的研究深有帮助，而且采用线性矩阵不等式的表示方式，比之前的矩阵范数的判别条件要更加的有利。
四、结语
综上所述，混合时滞条件下的神经网络的稳定性分析是以Lyapunov的稳定性理论与线性矩阵不等式技术为基础，同时利用积分不等式的方法，对混合时滞条件下的神经网络的稳定性进行了科学、合理的分析，并给出了时滞依赖指数稳定性的基本准则，从而将对混合时滞条件下的神经网络的稳定性的研究又向前推进了一大步。
参考文献：
[1]武志鹏.带有混合时滞的神经网络的稳定性分析[D].山西大学，2008.
[2]刘晓琳.混合变时滞神经网指数稳定性分析[D].曲阜师范大学，2009.
[3]王宁，孙晓玲.基于LMI的混合时滞随机神经网络指数稳定性[J].计算机仿真，2010，07：125-129.
[4]张金.具混合时滞的随机神经网络的稳定性分析[J].苏州大学学报（自然科学版），2011，02：16-22.
[5]吴文娟，刘德友，张静文，刘海涛.具有混合时滞的随机Hopfield神经网络的稳定性分析[J].兰州理工大学学报，2011，03：89-93.
[6]陈一鸣，徐增辉，赵所所，周志全.具有混合时滞随机离散神经网络的渐近稳定性分析[J].郑州大学学报（理学版），2011，04：33-38.
[7]耿立杰，李海颖，张晓静，苏广.具有混合时滞的随机反应扩散神经网络指数稳定性[J].工程数学学报，2014，05：687-696.
[8]龙述君，张永新，向丽.具有混合时滞的随机细胞神经网络的穩定性分析[J].四川师范大学学报（自然科学版），2012，06：796-801.
[9]毛凯，时宝.具有混合时滞的BAM神经网络全局指数稳定性分析[J].哈尔滨理工大学学报，2012，06：6-13.
[10]汪群芳.混合时滞模糊神经网络的稳定性与同步研究[D].暨南大学，2013.