现实的物理系统大都是非线性的，需要引入非线性微分方程描述系统的状态变化。非线性微分方程往往无法直接求解，定性的方法，如Lyapunov方法，在研究其动力学行为方面起到重要作用。真实的物理系统都要受到自身或外部环境随机波动的影响。考虑随机噪声的作用，比较合理的办法是引入随机微分方程表示物理系统，这就需要应用随机分析的理论和方法。基因调控网络、神经动力系统、Lure系统等都是重要的非线性系统，有广阔的应用背景。研究这些非线性系统在随机噪声环境中的稳定性、鲁棒稳定性、同步控制等问题无疑有重要的理论和应用价值。　　 本文基于Lyapunov泛函方法，随机分析方法、矩阵理论，不等式技巧，对由随机微分方程所描述的几类非线性系统的动力学问题进行深入系统的研究。主要包括以下内容:　　 (1)研究了一类基因网络微分方程模型的鲁棒稳定性问题。首先，当网络系统的参数具有不确定性时，运用Lyapunov方法和不等式技巧导出了系统鲁棒稳定性的充分条件。其次，对基因调控网络系统引入马尔科夫跳跃参数，运用随机分析方法和矩阵不等式给出了切换系统的鲁棒稳定性准则。　　 (2)考虑了两个随机系统的H∞控制问题。第一个系统是具有分布时滞的随机系统，系统中包含不确定参数，随机噪声是线性的，干扰输入范数有界。通过设计一个同时包含状态反馈和延时反馈的控制器，使系统在无干扰输入的情况下达到镇定。考虑干扰输入的影响，当适当的线性矩阵不等式条件满足时，系统在反馈控制下鲁棒稳定并且实现给定的H∞指标。对于具有马尔科夫跳跃参数延时神经网络系统，通过设计一个无记忆状态反馈控制器，类似地实现了切换系统的镇定和H∞控制目标。　　 (3)讨论了两个复杂系统的同步控制问题。一个是混沌Lure系统的脉冲控制问题，延时反馈控制中包含无法消除的脉冲干扰信号。应用Lyapunov方法、数学归纳法、Moon不等式首先得到了一个时滞依赖的同步准则，然后应用M-矩阵理论给出了一个时滞无关的同步准则。最后把时滞依赖的同步控制方法扩展到了随机情形。另一个问题是关于两个耦合复杂网络的自适应同步问题，通过设计一个适当的自适应控制法则使得两个具有不同耦合结构的复杂网络可以达到a.s.渐近同步。随机型LaSalle不变原理在证明a.s.渐近同步的过程中起到关键作用。数值模拟验证了所导出的理论结果的正确性。　　 (4)研究了几类神经网络的随机稳定性问题。首先，应用适用于随机微分方程的Razumikhin型定理研究了Cohen-Grossberg神经网络的p-阶矩指数稳定(p＞2)和1-阶矩指数稳定并给出稳定性准则。然后讨论了一个具有无界时滞的BAM神经网络模型的a.s.一指数稳定问题，主要证明工具是半鞅收敛定理。最后研究具有混合时滞的递归神经网络的马尔科夫切换问题和时滞BAM神经网络马尔科夫切换问题。应用Lyapunov方法、广义It(o)公式、矩阵不等式等方法技巧，导出了切换神经网络系统在均方意义下全局指数稳定的判别准则。稳定性准则均以线性矩阵不等式的形式给出，易于求解。数值例子检验了所给出的稳定性准则的有效性。