近二十年来,非线性控制理论一直是自动化控制领域研究的热点课题之一,尤其是基于Backstepping方法的非线性控制策略已经取得了重大进展,但仍然有很多问题有待于进一步探索和研究。本论文以Backstepping方法为基本工具,重点研究该方法在其它非线性控制领域中的推广,结合自适应神经网络逼近理论、时滞泛函微分方程稳定性理论、关联大系统分散控制理论、随机微分方程稳定性理论、及时变系统的学习控制理论,对几类非线性系统的状态反馈控制和输出反馈控制问题进行了研究。其主要工作概括如下:1.引入了一种信号置换新方法。在控制器设计过程中,当系统信号无法测量或无法利用时,例如时滞系统控制设计中无法测量的时滞状态或输出信号、分散控制策略中不能利用的关联信号等,考虑到系统最终将跟踪给定的参考信号,因此采用参考信号置换这些不能获得的信号,然后采用自适应鲁棒技术处理置换误差,从而实现控制目标。论文的大部分工作都是基于这种方法展开的。2.针对一类具有下三角结构的非线性状态时滞系统,在系统非线性函数满足Lipschitz条件下,采用Backstepping和信号置换方法,通过构造一个Lyapunov-Krasovskii泛函,设计了时滞依赖的状态反馈和输出反馈两种跟踪控制方案。这两种方案都能确保闭环系统所有信号一致有界,并且跟踪误差渐近收敛于零。3.将现有的自适应Backstepping神经网络控制理论延伸到了非线性时滞系统。首先,针对状态可测且具有严格反馈形式的非线性时滞系统,基于信号置换方法和线性参数化神经网络逼近理论,设计了一种新型的时滞依赖的自适应神经网络控制方案。然后,将自适应Backstepping神经网络控制理论进一步延伸到具有输出反馈形式的非线性时滞系统。所设计的控制方案均能确保跟踪误差在均方根意义下收敛到零点的一个小残集。4.将现有的自适应Backstepping神经网络控制理论延伸到了非线性关联大系统。假设各子系统控制器预先获得了所有子系统的参考信号信息,基于信号置换方法,即利用参考信号代替关联输出信号,在状态可测和状态不可测两种情况下,分别针对两类非线性系统,设计了两种自适应分散控制方案。通过调节设计参数,可以确保各子系统的跟踪误差实现任意跟踪精度。5.针对一类p奇数幂随机非线性系统,采用增加一个幂积分方法,研究了其状态反馈镇定问题,通过构造一个高次Lyapunov函数,证明了所设计的镇定算法使得闭环系统在概率意义下渐近稳定。6.针对时滞非线性输出反馈系统和随机非线性输出反馈系统,提出了一种简化的Backstepping神经网络镇定方法。仅采用一个神经网络补偿所有的未知非线性函数,从而控制器结构更加简化。所提出的控制方案分别保证了这两类闭环系统的渐近稳定性能。7.研究了周期时变参数非线性系统的自适应学习跟踪控制问题。针对带有周期时变参数和周期时变时滞的非线性参数化系统,提出了一种周期学习控制方案,通过构造Lyapunov-Krasovskii泛函型复合能量函数,证明了系统输出在L_T~2范数意义下能够精确跟踪给定的周期参考信号。