该论文包括以下六个部分.第一部分介绍最优化计算和神经网络的发展趋势、研究概况、在最优化计算和神经网络动态行为研究中所涉及到的一些主要方法和存在的问题.第二部分系统地研究了一类反馈神经网络的全局指数稳定性,仅假设激活函数是全局李普希兹连续的,给出了其平衡点的存在性、唯一性和指数稳定性的充分条件.该章结果拓宽了可应用的激活函数范围,并且说明了神经网络具有很强的全局指数收敛能力.所得结果对于神经网络的应用具有重要的指导意义.第三部分研究了一类具有脉动信号的神经网络的动态特性.第四部分研究了一类带有周期输入的神经系统的周期解.第五部分研究了一类时滞神经网络的鲁棒性.第六部分针对非线性优化问题,参照[171],给出了一种求解全局优化问题的两阶段神经网络模型;该模型包含两个阶段:函数值下降阶段和求下降点阶段.它从任意给定的初始点出发,先在第一阶段中,进行局部极小化,得到一个稳定点,如果该点不是全局极小点,那么,利用第二阶段,求出也必可求出一个下降点,并把它作为下次函数值下降初始点,交替使用这两个阶段,最终可得全局极小点.严格证明了两阶段神经网络模型对于无约束优化问题,无论其含有限个局部极小点还是无穷多个极小点,总可以求得全局极小点.最后,针对实际中目标函数的梯度函数可能存在间断点的情形,对两阶段神经网络方法提出了进一步修正的方案.仿真结果表明,该方法是有效的.该章是[171]的深化和完善.