姿态控制是空间飞行器完成各种任务的前提和保障。在空间飞行器执行任务过程中，姿态动力学系统不仅具有强烈的非线性，而且会受到转动惯量不确定和外部环境扰动的影响。此外，在实际应用中控制输入饱和和执行器故障也应加以考虑。近年来，随着空间飞行器结构和任务的日益复杂，对飞行器控制算法的要求也越来越高，单一的控制算法无法解决在内部不确定和外部扰动影响情况下，飞行器姿态控制系统的多指标优化控制问题。本文以滑模控制为基础分别结合扩张状态观测器(ESO)、微分观测器(DO)、鲁棒控制和自适应控制，构造几种复合控制策略来同时满足系统的快速性、精确性、鲁棒性，甚至低能量消耗等多指标的要求。本文完善了终端滑模控制、二阶Super-twisting算法和抖振抑制技术，首次完成了终端滑模结合自适应复合控制方案的有限时间稳定证明。论文的主要内容如下：1.研究了转动惯量不确定、外部扰动和执行器饱和情况下空间飞行器快速、高精度姿态跟踪控制问题。通过数学变换得到了更优化的空间飞行器动力学模型，其不仅减轻了观测器的负担，而且提高了控制器的精度。设计了滑模控制结合观测器估计的复合控制方案。利用观测器(ESO或DO)对飞行器系统总不确定项进行精确估计，再利用滑模控制和反步控制技术的快速响应，实现空间飞行器高性能姿态跟踪控制。而且，滑模控制技术的快速响应弥补了观测器估计能力有限的问题；反过来，观测器的精确估计能力又抑制了滑模高频抖振现象的产生。2.研究了基于非奇异终端滑模技术的空间飞行器有限时间姿态稳定问题。首先，设计了鲁棒非奇异终端滑模控制方案，保证空间飞行器姿态系统有限时间稳定且避免奇异问题。然后，提出了自适应非奇异终端滑模复合控制方案。该方案一方面利用自适应技术对不确定和扰动的上界进行估计和补偿，另一方面，利用非奇异终端滑模的快速性和强鲁棒性，从而实现飞行器系统的有限时间姿态稳定。由于自适应滑模控制方案不依赖转动惯量不确定和外部扰动的任何信息，该方案可以应用于难以获取这些信息的实际系统中。自适应技术的精确估计和补偿能力有效抑制了滑模控制中的抖振问题。本文首次完成了基于自适应非奇异终端滑模控制方案的飞行器姿态系统有限时间姿态稳定的严格证明，并得到了有限收敛时间上界的估计值。3.研究了基于快速非奇异终端滑模技术的空间飞行器有限时间姿态跟踪控制问题。设计的快速非奇异终端滑模面同时包含了线性滑模面和非奇异终端滑模面的优点。然后，将快速非奇异终端滑模控制技术和自适应控制技术结合，设计了五种空间飞行器姿态跟踪控制方案，实现了飞行器系统的有限时间全局姿态跟踪控制，避免了奇异问题，抑制了抖动现象，摆脱了控制方案对转动惯量不确定和外部扰动信息依赖的限制。本文还提出了一种处理抖振问题的新技术。根据Lyapunov稳定定理和有限时间技术，首次完成了自适应快速非奇异终端滑模控制方案有限时间姿态跟踪控制的严格证明，得到了收敛域上界的精确估计值，给出了参数调节的理论依据。4.基于“等价控制”思想，研究了具有低能量消耗的空间飞行器有限时间姿态跟踪控制问题。设计了自适应增益Super-twisting算法和自适应增益快速终端滑模控制方案。设计的控制律实现了飞行器系统的精确定位、快速响应和强鲁棒性并保证了低能量消耗。控制方案解决了滑模控制带来的抖振和高频切换问题。跟经典Super-twisting算法相比，改进的Super-twisting控制算法包含如下优点：1)不依赖不确定和扰动上界的先验信息；2)完成了对随时间和状态变化的外部扰动和内部不确定的有效抑制；3)自适应增益解决了超调问题及控制增益选取困难问题；4)加入了纠正项保证了更快的收敛速度。本文还分别给出了基于自适应增益Super-twisting算法和自适应增益快速终端滑模控制算法的飞行器系统有限时间姿态跟踪控制的严格证明，得到了有限收敛时间上界的估计值和收敛域上界的精确表达式。控制方案包含了快速趋近律技术、Super-twisting算法和自适应技术的优点。5.在转动惯量不确定、外部扰动、执行器故障和执行器饱和影响空间飞行器系统情况下，研究了有限时间容错姿态控制问题。第一部分：研究了有限时间容错姿态稳定控制问题。设计的鲁棒(自适应)控制方案保证了系统轨迹在有限时间内收敛到滑模面上，然后在有限时间内收敛到平衡点附近的小邻域。利用实用滑模概念，对自适应快速终端滑模控制律进行了改进以满足其在实际工程中的需要。提出的控制方案实现了有限时间容错控制，保证姿态控制系统的高性能品质，并给出了有限时间容错姿态稳定的严格证明。第二部分：提出了基于快速终端滑模和自适应技术的复合控制方案，解决了空间飞行器系统的有限时间容错姿态跟踪控制问题。在不需要故障诊断获取故障信息的情况下，该方案实现了有限时间容错控制；在不需要转动惯量不确定和外部扰动先验信息的情况下对其保持了强鲁棒性。本文用两种方式描述了执行器饱和问题，提出了一种处理仿射非线性系统总不确定项的新技巧。在转动惯量不确定、外部扰动、执行器故障和执行器饱和影响飞行器系统的情况下，首次完成了有限时间容错跟踪控制的严格证明，给出了收敛域上界的精确表达式，得到了有限收敛时间、收敛域和执行器故障和执行器饱和度之间关系的表达式。6.仿真实例验证了控制方案的合理性和有效性。对比仿真验证了控制方案的优越性。采用实际卫星数据的数值仿真验证了控制方案的实用性。最后，归纳总结了本论文的主要研究成果，并对今后的工作进行了展望。