为了满足航空航天事业发展的需要,飞行器所承担的任务变得愈加复杂和多样化,这给飞行器控制的很多指标提出了更高的要求。姿态控制系统为飞行器实现各种复杂的任务提供了重要保障。由于飞行器的姿态控制系统具有复杂的耦合非线性特性,同时还存在系统惯性不确定性与外部环境干扰力矩等不利因素的影响,姿态系统的控制设计是具有挑战性的复杂问题。飞行器姿态系统控制的精确性不仅和所配备的硬件设施有关,还取决于姿态控制方法的设计。本文以Lyapunov稳定性分析理论为基础,利用滑模控制、动态面控制、自适应控制、有限时间控制和扩张状态观测器(ESO)等控制系统设计方法,针对刚性和挠性空间飞行器以及采用摆动喷管作为执行机构的导弹的姿态系统的控制设计问题,提出了相应的非线性姿态控制策略实现飞行器姿态系统的控制目的。针对空间飞行器姿态控制系统采用开关式姿控发动机的特点,研究了空间飞行器大角度机动三通道耦合姿态控制问题。为克服大角度机动时使用欧拉角表示法可能产生的奇异问题,采用四元数描述的空间飞行器姿态运动数学模型,应用Lyapunov方法设计了控制量受限情况下的基于误差四元数的大角度姿态运动变结构控制器,并给出了严格的数学证明。为了避免控制律中的颤动问题,用边界层来代替控制律中符号函数。给出了从一种静态到另外一种静态的姿态跟踪四元数指令确定方法。数值仿真结果说明了所提出的控制器的有效性。由欧拉角描述的空间飞行器非线性姿态运动方程被表示成向量形式,并被视为两个模块,一块运动学模块和一块动力学模块。基于Lyapunov稳定性理论,提出了一种鲁棒动态面控制算法,用于在外部干扰存在条件下的空间飞行器姿态跟踪控制。然后,把鲁棒动态面算法结合一种自适应更新律提出了一种新的控制器,所设计的控制器能够用于姿态控制系统的转动惯量未知的情况。Lyapunov稳定性分析表明,对转动惯量自适应的控制器也可以保证系统对欧拉角的跟踪。用数值仿真结果验证了所提出的控制器的有效性。欧拉角表示法所描述的挠性空间飞行器非线性姿态运动方程被表示成向量形式。首先,基于动态面控制(DSC)方法,提出了一种新的鲁棒动态面滑模控制器,用于存在参数不确定性和外部干扰条件下的挠性空间飞行器的姿态跟踪和主动振动控制。然后,采用扩张状态观测器估计未知的混合扰动,提出了另一种新型的鲁棒动态面有限时间滑模控制器。Lyapunov稳定性分析表明,两种控制器都可以保证姿态控制系统的渐近稳定。通过模态速度反馈(MVF)方法主动地抑制挠性空间飞行器不期望的振动。数值仿真分析说明了所提出的控制策略的有效性。挠性空间飞行器的非线性姿态运动采用修正Rodrigues参数姿态描述法的数学模型。基于Lyapunov稳定性理论,对于挠性空间飞行器的姿态跟踪和主动振动抑制问题,首先,在外部扰动力矩存在的条件下提出了一种鲁棒动态面控制器。然后,针对姿态控制系统的转动惯量未知的情况,结合一种自适应更新律,对已提出的控制器进行了重新设计,以使得所设计的控制器能够在空间飞行器的转动惯量未知的情况下使用。Lyapunov稳定性分析表明,这两种控制器都能够保证姿态控制系统的渐近稳定。也采用模态速度反馈控制方法积极地抑制不期望的振动。最后,仿真分析验证了所提出的控制算法的有效性。针对采用摆动喷管作为执行机构的导弹姿态控制系统,研究了导弹初始垂直发射过程中三通道姿态耦合控制问题。详细推导了采用摆动喷管的导弹的姿态动力学模型,并与欧拉角描述的导弹姿态运动学模型结合,基于动态面控制技术,在考虑系统中气动参数不确定性情况下设计了一种新的动态面自适应滑模控制器,并应用Lyapunov方法给出了严格的稳定性证明。为避免控制设计中的抖振问题,控制器中的符号函数用饱和函数来代替。数值仿真分析验证了所提出的控制方法的有效性。