航天器的姿态确定一直是保证其正常运行并完成任务的重要课题。星敏感器是目前精度最高的,能够自主进行定姿的航天器定姿器件。采用惯性测量单元和星敏感器的惯性/天文组合导航系统实现航天器的高性能导航,需要对星图识别、姿态解算、信息融合等多个环节进行综合考量。论文主要对星敏感器自主定姿过程中的全天星图识别算法、快速姿态解算方法及星敏感器在惯性/天文组合导航系统中的作用进行了研究。研究内容包括以下几个方面。第一,对不需要先验姿态的全天星图识别算法进行了研究,提出了两种改进的全天星图识别算法,分别是基于多边形分割的星图识别算法和基于随机分布蚁群路径寻优的星图识别算法。前者采用一种根据星在星图中的分布自主确定尺寸的多边形,将星图划分为这样的一组多边形的集合,根据多边形的几何特征提取星图的特征模式,比经典的栅格识别算法更充分地利用了恒星在星图中的位置信息,不需要选取图像单元的尺寸,且具有旋转不变性。当位置噪声概率增至0.5时,这一识别算法仍然能表现出90%以上的正确识别率。后者通过模拟自然界中蚁群的生物特性,定义了随机分布的蚁群,确定遍历星图中的星的最优路径,而没有选择一定范围内最中心的星为路径寻优的起点,消除了定义路径寻优的起点可能导致的误差。仿真验证表明,在位置噪声概率达到0.7时,这一星图识别算法的识别成功率下降不超过7%,针对星图噪声表现出了更强的稳定性。第二,对星敏感器瞬时姿态解算方法进行了研究,提出了一种基于可逆线性变换的姿态解算方法。为了提升解算姿态四元数方程组的效率,通过可逆线性变换,将方程组转化为标准的二次型形式,求解转化后的方程组,能够有效减少计算量,对观测星图中导航星匮乏的情况尤为适用。与几种姿态解算方法的对比分析表明,所提出的的解算方法能够在保证解算精度的前提下能减少40%解算时间,使姿态输出的实时性得到增强。第三,对惯性/天文组合导航系统的信息融合方法进行了研究,对于如何融合惯性导航系统输出的航天器姿态和星敏感器测量得到的姿态信息,提出了一种改进的非线性滤波算法——嵌套的粒子滤波方法。利用基本粒子滤波方法生成预测粒子重要性采样密度中的均值,利用无迹卡尔曼滤波生成预测粒子重要性采样密度中的协方差,这样生成了新的预测粒子,将其返回粒子滤波生成预测粒子的步骤,重新进行滤波。实际算例表明,改进的非线性滤波方法相比于粒子滤波方法能够提供更高的滤波精度,有效改善了难以选取重要性采样密度的不足。同时,仿真表明,先进的星图识别算法在采用这一滤波方法的组合导航系统中对导航精度有增益作用。第四,对惯性/天文组合导航系统的组合模式进行了研究,提出可切换的深组合模式。如果星敏感器的视场中观测星不足,难以保证天文导航系统提供姿态信息的准确性,那么组合导航系统切换至深组合模式,在组合导航系统的量测经滤波器进行状态估计后,利用惯性导航系统的姿态角信息,经过姿态转换,对星敏感器解算得到的姿态进行修正,同时保持以天文导航输出的测量信息修正惯性导航系统的导航参数。对这一组合模式进行了仿真验证,结果表明深组合模式能够稳定实现高精度导航,同时,改进星图识别算法也能够提升其导航性能。