卫星姿态控制系统是一个多输入多输出、耦合的不确定非线性系统。在轨运行的卫星不可避免地受到各种干扰力矩的影响,并且这些干扰力矩的大小也是变化的。干扰不确定性的存在使得卫星姿态控制问题进一步复杂化。因此,为了完成姿态控制任务,需要所设计的控制律具有较高的鲁棒性。本文就是在这种背景下,从理论和应用两个方面对卫星姿态控制系统的控制算法进行了深入的研究,并将提出的姿态控制方案用于某型在研卫星的姿态控制中。主要完成了以下几个方面的工作:针对常值干扰下的卫星姿态控制问题,给出了一种基于LQR的线性控制方法。先将建立的卫星动力学模型进行线性化,并根据LQR方法中对参数的要求形式进行状态变量的选取,设计合适的反馈增益,以实现对常值干扰的抑制,从而实现姿态控制。针对形式已知的周期干扰力矩,在已建立的刚性卫星姿态动力学模型的基础上简化方程,可以得到独立的俯仰回路方程,和相互耦合的滚动/偏航回路方程,对形式已知的周期干扰力矩对卫星姿态的影响进行理论分析。对于独立的俯仰回路可以进行单独的补偿设计。对于相互耦合的滚动/偏航回路采用滚动/偏航轴的反作用飞轮对形式已知的周期干扰力矩进行最大限度的补偿,以实现高精度姿态控制。针对有界不确定性干扰设计了几种具有鲁棒性的控制器。首先设计了一基于Lyapunov方法的四元数反馈非线性控制律,并且在理论上证明了控制律的正确性。其次设计了一个具有良好的鲁棒性和快速性的滑模变结构控制律,采用了反双曲正切函数,避免了滑模变结构控制中的抖振问题。最后针对角速度敏感器失效状态下的姿态控制问题,设计了一个基于干扰观测器的输出反馈姿态控制器,实现了对不确定性干扰的有效抑制。