论文部分内容阅读
摘 要:本文基于实值神经网络模型,研究了复值神经网络的动力学分析。利用不动点定理以及不等式技术,讨论了复值神经网络平衡点的存在性以及稳定性问题,给出了网络平衡点存在的充分判据并证明了部分平衡点的局部稳定性。
关键词:高斯函数,指数稳定性,不动点定理
1943年,美国神经生理学家McCulloch和数学家Pitts提出了神经元的MP模型,奠定了计算机神经网络的基础。人工神经网络是一种模仿人脑结构及其功能的智能信息处理系统,由于其高容错率,学习能力强以及自适应能力强等特点,已成功应用于机器学习,优化计算,自动控制等多个领域。
在利用神经网络解决实际问题中,稳定性是动力系统研究的关键。众所周知,神经网络稳定性问题与激活函数的类型密切相关。在现有的文献中讨论的大多是分段线性或单调不减的激活函数,连续非单调线性激活函数的稳定性问题,如文献[1]研究了带有分段线性激活函数的合作神经网络的多稳定性。文献[2]研究了带有2r 个拐点、单调不减分段线性函数的神经网络的多稳定性。文献[3]研究了带有非单调分段线性函数的神经网络的多稳定性。研究发现,神经网络对于既非单调也非线性的激活函数的讨论较少,高斯函数是一种既非单调也非线性的径向基函数,其网络具有快速学习能力,已被广泛应用于分类,预测,函数近似等众多领域。
本文研究一类带有高斯函数的复值神经网络的动力学行为,利用Brouwer’s不动点定理及不等式技术得出带有高斯激活函数的复值神经网络平衡点存在的充分判据以及稳定性判据。
即平衡点 在 是局部稳定的。由 的任意性可知,带有高斯激活函数的CNNs在 中有 个局部稳定的平衡点。定理证明完成。
参考文献
[1] M. Marco,M. Forti,M. Grazzini and L. Pancioni.(2012)Limit set dichotomy and multistability for a class of cooperative neural networks with delays. IEEE Transactions on Neural Networks and Learning Systems,23(9):1473–1485.
[2] Z. Zeng,T. Huang and W. Zheng.(2010)Multistability of recurrent neural networks with time-varying delays and the piecewise linear activation function. IEEE Transactions on Neural Networks,21(8):1371– 1377.
[3] L. Wang and T. Chen.(2012)Multistability of neural networks with Mexican-hat-type activation functions.
[4] IEEE Transactions on Neural Networks and Learning Systems,23(11):1816–1826.
作者簡介:查曼玉,(1995,5-),女,安徽省滁州市,硕士研究生,毕业东南大学。
关键词:高斯函数,指数稳定性,不动点定理
1943年,美国神经生理学家McCulloch和数学家Pitts提出了神经元的MP模型,奠定了计算机神经网络的基础。人工神经网络是一种模仿人脑结构及其功能的智能信息处理系统,由于其高容错率,学习能力强以及自适应能力强等特点,已成功应用于机器学习,优化计算,自动控制等多个领域。
在利用神经网络解决实际问题中,稳定性是动力系统研究的关键。众所周知,神经网络稳定性问题与激活函数的类型密切相关。在现有的文献中讨论的大多是分段线性或单调不减的激活函数,连续非单调线性激活函数的稳定性问题,如文献[1]研究了带有分段线性激活函数的合作神经网络的多稳定性。文献[2]研究了带有2r 个拐点、单调不减分段线性函数的神经网络的多稳定性。文献[3]研究了带有非单调分段线性函数的神经网络的多稳定性。研究发现,神经网络对于既非单调也非线性的激活函数的讨论较少,高斯函数是一种既非单调也非线性的径向基函数,其网络具有快速学习能力,已被广泛应用于分类,预测,函数近似等众多领域。
本文研究一类带有高斯函数的复值神经网络的动力学行为,利用Brouwer’s不动点定理及不等式技术得出带有高斯激活函数的复值神经网络平衡点存在的充分判据以及稳定性判据。
即平衡点 在 是局部稳定的。由 的任意性可知,带有高斯激活函数的CNNs在 中有 个局部稳定的平衡点。定理证明完成。
参考文献
[1] M. Marco,M. Forti,M. Grazzini and L. Pancioni.(2012)Limit set dichotomy and multistability for a class of cooperative neural networks with delays. IEEE Transactions on Neural Networks and Learning Systems,23(9):1473–1485.
[2] Z. Zeng,T. Huang and W. Zheng.(2010)Multistability of recurrent neural networks with time-varying delays and the piecewise linear activation function. IEEE Transactions on Neural Networks,21(8):1371– 1377.
[3] L. Wang and T. Chen.(2012)Multistability of neural networks with Mexican-hat-type activation functions.
[4] IEEE Transactions on Neural Networks and Learning Systems,23(11):1816–1826.
作者簡介:查曼玉,(1995,5-),女,安徽省滁州市,硕士研究生,毕业东南大学。