星敏感器是目前航天中精度最高的姿态敏感器,由于其优良的性能正成为各类空间飞行器的首选姿态敏感器。本文中以星敏感器和光纤陀螺为基本配置组成的深空探测器姿态测量系统为对象,针对星敏感器与光纤陀螺联合定姿模式和基于星敏感器的定姿模式,对深空探测器的三轴姿态滤波技术方案进行了设计与研究。主要工作如下:在星敏感器与光纤陀螺联合定姿模式下,设计了两种利用扩展卡尔曼滤波的姿态确定算法。其中一种方法是基于当前最优估计值对状态方程进行线性化。另外一种是基于命令四元数对状态方程进行线性化。在算法中,全局参考姿态用无奇异的姿态四元数表示。并且通过定义增量误差四元数,推导出满秩空间中误差协方差阵的传播方程,解决了由于四元数正交约束所造成的协方差阵奇异性问题。为了改善收敛性能,提出了在星敏感器与光纤陀螺联合定姿模式下的Unscented卡尔曼滤波算法。Unscented卡尔曼滤波算法不仅能够给出更精确的均值和方差估计,而且还能带来更快的收敛速度。研究了两种基于星敏感器的姿态和姿态角速度确定的扩展卡尔曼滤波算法。其中一种方法是采用姿态动力学模型进行姿态角速度的递推。在能够获得高频星敏感器测量的情况下,针对模型不确定问题,提出了一种基于Singer模型的新的滤波算法,把角加速度建模为一阶马尔科夫过程,从而避免了使用姿态动力学模型。