飞行器姿态估计技术是航天领域的关键技术之一,由陀螺与星敏感器组成的飞行器姿态估计系统由于测姿精度高、可靠性好以及自主性强等优点得到了广泛的应用。针对该姿态估计系统,四元数由于计算简单,无三角函数的运算,同时又能避免欧拉角的奇异性问题,因此作为系统的姿态描述参数。为提高姿态估计的精度以及姿态估计系统的适应能力和鲁棒性,非线性滤波算法提供了强有力的基础保障。容积卡尔曼滤波(Cubature Kalman Filter,CKF)是一种性能优越的非线性滤波算法,具有实现简单,数值稳定性好以及在高维情况下滤波精度高、收敛性好等优点。同时,考虑不同环境下姿态估计系统模型可能存在模型不确定、量测丢失、量测延迟等复杂情况,鲁棒滤波是一种有效的设计手段。因此,本文对CKF及鲁棒滤波在飞行器姿态估计中的应用进行了深入研究:介绍了飞行器姿态估计以及非线性滤波的一些基础理论。在介绍飞行器姿态估计系统姿态描述参数以及姿态传感器的测量模型基础上,建立基于四元数的陀螺与星敏感器姿态估计模型。接着,在贝叶斯最优滤波的理论框架下,对扩展卡尔曼滤波、无迹卡尔曼滤波以及CKF这三种次优非线性滤波进行理论上的比较,分析了它们在高维情况下的估计性能以及数值稳定性,为进一步的CKF在飞行器姿态估计中的应用提供理论依据。针对姿态估计模型中四元数存在规范化约束的情况,提出一种基于加性四元数约束的CKF姿态估计算法。根据最优滤波理论,在最小均方误差估计准则的条件下,将四元数约束转化为滤波增益约束,构造最小约束代价函数实现对滤波增益的校正,从而解决四元数规范化问题。然后利用三阶球面-相径容积规则来近似计算系统状态的后验均值和协方差,从而得到四元数约束下的CKF滤波公式。同时,考虑四元数本质上是旋转矢量而非一般向量,存在着乘性特性,利用四元数进行乘性滤波时,存在着四元数加权均值计算问题,提出一种基于四元数平方根CKF姿态估计算法。该算法采用一种相对简单的拉格朗日代价函数法来求解四元数加权均值,并采用容积卡尔曼滤波理论来提高估计精度与收敛速度,同时引入平方根的形式,提高滤波算法的稳定性。指出现有的迭代CKF在每一步迭代中都是假设量测噪声与状态及状态估计不相关存在局限性,在一定程度上影响了状态估计的精度,提出了一种改进的迭代CKF算法,并将其应用于姿态估计系统中,给出了一种基于四元数约束的容积点迭代CKF姿态估计算法。该算法采用三阶球面-相径容积规则近似非线性函数的均值与方差,利用状态扩维理论来解决量测迭代中量测噪声与状态相关的问题,同时提出一种新的容积点迭代策略,即在量测迭代过程中直接采用容积点迭代,避免每步迭代都进行均方根计算来产生容积点,克服传统迭代策略是基于高斯近似产生采样点的局限,有效的降低扩维带来的计算量。并针对姿态估计存在四元数约束的问题,在每步迭代中利用增益校正的方法,保证四元数的规范化。针对姿态估计滤波算法在模型失配、未知干扰或状态突变等情况下存在精度低、鲁棒性差的缺点,提出了一种基于四元数约束的多重次渐消因子的强跟踪CKF姿态估计算法。该滤波算法,克服单渐消因子对多变量跟踪能力差、估计精度差的局限性,通过引入两个多重次渐消因子对预测误差协方差阵进行调整,使得不同的滤波通道具有不同的调节能力,保证预测误差协方差阵的对称性,从而实现滤波算法强跟踪性。同时考虑四元数归一化的限制,对滤波增益进行调整使得状态估计值满足四元数约束条件。针对复杂环境下的姿态估计问题,考虑了三种不同情况下的鲁棒滤波设计。一是考虑陀螺与星敏感器存在未对准误差以及星敏感器存在量测延迟的情况,将陀螺与星敏感器的未对准误差看成是范数有界的模型不确定,建立了带量测延迟的不确定姿态估计模型,并提出一种新的有界时域鲁棒滤波来处理模型不确定以及星敏感器延迟。二是考虑非线性姿态估计系统同时存在乘性噪声以及量测模型存在未知干扰的情况,提出了一种鲁棒扩展卡尔曼滤波姿态估计算法。该算法基于扩展卡尔曼滤波的结构,设计预测方差以及估计方差的最优上界,并证明估计误差在一定条件下是均方稳定的。三是考虑非线性姿态估计系统同时存在乘性噪声、量测丢失以及加性噪声相关的情况,提出了一种鲁棒递推滤波算法。该算法基于噪声相关下的状态预测以及状态校正两个滤波结构,设计预测方差以及估计方差的最优上界。仿真验证说明了这三种鲁棒滤波算法的有效性。