火星探测是人类宇宙探索活动的重要组成部分,具有重要的科学价值。对火星进行探测的一个重要手段是利用火星探测器实现对火星的近距离观测。在火星探测器控制系统中,姿态控制子系统具有重要作用。本文以火星探测器为研究对象,针对其姿态控制问题进行研究。火星探测器在稳态飞行过程中要进行对日、对地和对火定向,需要完成姿态机动和姿态跟踪任务。论文首先叙述了欧拉角、四元数和修正罗德里格参数等姿态描述方法,建立了火星探测器的姿态动力学和姿态运动学方程。给出了航天器系统中常用的时间系统和简单二体轨道模型。针对传统线性PD姿态控制律的不足进行了改进,设计了一种非线性的PD控制律。非线性PD控制器中的比例参数可变,达到缩短调节时间,减小超调量的目的。当火星探测器姿态偏差较大时控制器比例参数较大,当姿态偏差较小时比例参数较小。针对存在转动惯量不确定性的火星探测器姿态机动和姿态跟踪问题,设计了滑模变结构的控制器。为了充分利用滑模运动的鲁棒性,选用了一种时变滑模面。通过调整滑模面参数,使初始时刻的系统状态即处于滑模面上面。根据系统状态初始值选择对滑模面进行旋转或平移变换,并且保证滑模面逐渐趋近于设定好的线性滑模面,以保证系统的收敛速度。同时针对转动惯量参数设计了自适应律,对转动惯量参数进行调节,提高系统的鲁棒性,保证闭环系统在转动惯量参数处于一定范围内变动的情况下是稳定的。论文最后研究了存在转动惯量不确定性的火星探测器输出反馈姿态控制问题,设计了无需角速度反馈的姿态机动和姿态跟踪控制器。利用构建的姿态滤波器,从姿态反馈中获得伪角速度,进而利用姿态信息和伪角速度信息建立滑模面,应用滑模变结构方法针对探测器姿态机动和姿态跟踪问题设计了控制律,在姿态跟踪问题中设计了转动惯量参数的自适应律。最后对控制算法进行了数学仿真分析,结果表明设计的控制器可以满足探测器闭环系统姿态控制任务要求。