本文对基于逆推(Backstepping)方法的不确定非线性系统的控制理论及其在船舶运动控制中的应用问题进行了系统的研究。不确定非线性系统的控制具有重要的理论意义和实用价值，是最近十几年来控制界研究的热点之一。　　文中概述了非线性控制理论的发展历程，特别讨论了近二十几年来最具代表性的、具有里程碑意义的两种非线性设计方法，即基于微分几何的精确反馈线性化方法和基于Lyapunov的逆推方法;总结了基于Backstepping的不确定非线性系统控制理论的研究成果。作者特别注意到Backstepping设计工具是参数不确定非线性系统控制理论的一个重要组成部分。在对该领域的研究进展进行分析的基础上，本文面向广泛的不确定非线性系统，给出三种控制系统自适应设计方法，这些设计方法的主要特征是能够克服模型的不确定性，特别是控制增益符号未知的困难，实现高性能的跟踪。所考虑的不确定非线性系统特性存在于船舶航向控制系统、减摇鳍控制系统中，其系统模型包括常参数不确定、已知界的时变参数不确定、完全未知的控制系数和外界干扰不确定，这些特性涵盖了系统不确定性的主要内容，因此实现对这一类系统的控制有助于解决相当广泛的非线性系统的控制问题。　　针对所定义的严格反馈线性常参数化不确定非线性系统，本文提出了一种自适应控制算法;针对所定义的带有完全未知的外界扰动项的严格反馈线性参数化不确定非线性系统，本文提出了一种自适应鲁棒控制算法;针对所定义的严格反馈线性时变参数化不确定非线性系统，本文提出了一种自适应控制算法。所提出的这些控制系统设计方法将Backstepping算法和Nussbaum函数相结合，此类控制器设计的关键是Backstepping设计过程，用于每一步中循环设计虚拟控制器，结果的实际控制器采用Nussbaum函数及相应的各种不同的参数估计方法进行设计，以补偿模型的不确定性，处理控制系数符号未知的问题，并确保参数估计的界。在自适应鲁棒控制设计中，参数估计加入δ-修正，以阻止参数漂移，用于进一步增加参数估计的鲁棒性;在时变参数自适应控制设计中，时变参数更新律采用光滑的投影算子，基于实际参数的已知界，确保参数估计的界。上述新设计方法是本文为船舶运动控制系统设计航向控制器的理论基础，同时也是本文的创新点。　　船舶操纵是一个极为复杂的控制问题。迄今为止，基于模型的船舶航向自动舵的设计，大多采用的是线性的Nomoto模型，而对于不具有直航稳定性的船舶（如大型油轮）和船舶航向急剧改变的操纵模式，所引起的严重水动力非线性不可忽视。由于装载状态、船速、外界环境干扰等时常发生变化，船舶航向控制系统模型中存在两种明显的不确定性，即模型参数和外界干扰的不确定性。此外，船舶航向控制系统中存在舵机伺服系统执行机构，若在自动舵设计时考虑其特性，船舶运动控制系统的不确定性将不满足匹配条件。鉴于上述问题，在客观上提出了发展鲁棒性更强的、适应性更好的船舶操纵控制器的要求，将一些更为有效的控制算法进一步应用于船舶运动控制领域显得更为重要。而非线性控制理论在各领域受到的广泛重视为船舶的操纵控制提供了可资借鉴的思路和方法。　　为便于设计船舶航向控制器，本文讨论了船舶运动非线性数学模型的建立;考虑到所建立的数学模型存在的不确定性，本文给出了具有不确定性的航向控制系统非线性数学模型。此外，针对变航操纵引进了参考模型技术，用以产生足够光滑的期望航向参考轨迹，保证避免大的阶跃信号引起的数值解方面的困难，同时满足系统控制器设计方法对系统信号的要求。这些结果为论文进行各种航向自动舵的设计及其仿真研究奠定了基石出。　　论文将所提出的各种新的非线性控制算法应用于船舶航向控制系统，设计了新的自适应非线性自动舵、自适应鲁棒非线性自动舵、时变参数自适应非线性自动舵的控制律。论文给出仿真例，利用Matlab的Simulink仿真工具，对所设计的各种自动舵算法进行仿真研究，得到令人满意的仿真结果;系统动、静态性能均良好，从而验证了所设计控制器的有效性。