卫星姿态控制系统是卫星系统中的重要组成部分。卫星姿态控制的精度不仅取决于姿态控制系统硬件配置的性能与精度,还与所采用的姿态控制算法密切相关。本文针对三轴稳定卫星的姿态控制问题,从理论和应用的角度对姿态控制算法作了深入细致的研究。主要完成了以下几方面的工作:建立了卫星姿态运动模型。在卫星的各种姿态描述中,鉴于修正罗德里格参数(MRP)与其映射集的联合可以实现全局的非奇异姿态描述,本文所有的控制算法设计都是建立在第2章中给出卫星动力学方程及由MRP描述的运动学方程的基础上。采用基于Lyapunov稳定性分析的非线性控制方法,针对卫星姿态控制中存在的实际问题提出了相应的控制算法。针对控制输入受限问题,在卫星的姿态和角速度信息可测的情况下,设计了姿态调节和姿态跟踪控制器。首先给出了干扰有界时的姿态控制算法,当控制器参数设计满足一定条件时,可以保证闭环控制系统的全局渐近稳定性和控制受限的要求。同时,该控制方案是一种模型独立的控制方法,不依赖于卫星的转动惯量。接着提出了引入线性饱和函数的姿态调节和姿态跟踪控制算法,在控制输入受限的同时也是角速度受限的。最后利用双曲正切函数的性质和MRP自身的性质,分别设计了控制输入受限情况下的姿态调节和跟踪控制算法。对于姿态跟踪控制问题,考虑其转动惯量参数不确定性问题,又分别设计了非自适应和自适应控制方案,并且给出了基于遗传算法的控制参数优化算法。针对输出反馈控制问题,仅考虑卫星的姿态可测量的情况,设计了姿态调节和姿态跟踪控制算法。所设计的控制算法主要是通过构建动态滤波器,来实现无需角速度信号的输出反馈控制,即由MRP描述的姿态和构建的滤波器状态的反馈来实现姿态控制。其中部分输出反馈方案由于引入了双曲正切函数和饱和函数,还能考虑控制力矩幅值受限的问题。对提出的每一种算法,通过Lyapunov稳定性分析,均能保证闭环系统的全局渐近稳定性,能很好地实现姿态调节和姿态跟踪控制任务。考虑卫星转动惯量不确定和干扰力矩存在的情况下,设计了姿态调节和姿态跟踪控制算法。考虑到滑模变结构控制的优点,首先提出了滑模自适应姿态调节和跟踪控制算法,能够对有界干扰进行有效抑制,并实现了对转动惯量的实时辨识。接着提出了滑模PID姿态调节和跟踪控制算法,通过理论分析证明了对有界干扰和惯量参数变化具有鲁棒性。最后提出了自适应姿态调节和跟踪控制算法,实现了控制参数的动态调节,保证闭环系统在有界干扰下是输入到状态稳定的,并针对转动惯量不确定情况给出了自适应辨识算法,实现了对转动惯量的辨识。论文以某型卫星为工程背景对所提出的控制算法都进行了数学仿真验证,结果充分表明,所提出的各种控制方案均能很好地实现各种姿态控制任务。最后设计了基于dSPACE实时仿真系统的半物理仿真实验,针对现有硬件对部分控制算法进行了半物理仿真验证。因此,本文的结果不仅在理论上具有一定的研究价值,在实际工程应用方面也具有一定的借鉴意义。