基于光纤陀螺(Fiber Optical Gyroscope,FOG)的惯性导航技术由于其高可靠性,小尺寸,低能耗和增量测量性能等优点而在多个领域获得成功应用。本文重点研究了基于光纤陀螺捷联惯性导航系统(Strap-down Inertial Navigation System,SINS)与高精度星敏感姿态传感器(Star Tracker)的组合导航系统的设计,以提高导航信息的估计精度。首先,本文建立了基于FOG和MEMS加速度计的惯性测量单元(Inertial Measurement Unit,IMU)的数学模型,详细分析其传感器误差,尤其是随机噪声模型。惯性传感器中存在的噪声模型特性对组合滤波器的设计有很大影响,因此为了更好地估计随机过程参数,本文提出了一种基于自适应双阈值小波函数和Allan方差的随机建模算法。基于来自FOG-IMU的实际数据的实验结果表明,根据该方法建立的随机噪声模型可以获得满意的降噪补偿效果,有效减小传感器的误差。其次,针对组合导航系统设计重要组成部分的姿态算法,本文讨论了几种不同的姿态算法,其中旋转矢量算法具有校正由振荡旋转运动引起的非交换性误差的优点,因而被选作本文组合系统的捷联姿态算法。但该算法性能受所选子样数目的影响,子样数目增加可提高精度,却会引起计算量增加而降低更新速率,从而导致了算法准确性和复杂性之间的矛盾。为了解决这个问题,本文提出了一种自适应多子样SINS姿态算法,该算法为一种双速旋转矢量算法,利用振荡运动估计自适应地确定双速阈值,进一步提出一种新的自适应锥形系数算法来优化补偿结果。其后,本文讨论了FOG-SINS和星敏感器组合滤波器的设计。基于之前的工作,本文建立了FOG-INS/星敏感器组合系统模型。在对不同的非线性滤波器进行性能评估之后,本文采用了自适应迭代修正的Sage-Husa滤波器,仅需要获得初始近似值,即可利用测量值求得协方差特性。最后,本文利用所提出的自适应双阈值小波降噪函数对FOG-SINS的实际数据进行随机建模,并将结果应用于组合滤波器的设计中。本文设计了基于真实FOG-IMU和星敏感器模拟器的仿真系统,用于测试所提算法和实验验证。实验结果表明该组合导航系统具有令人满意的性能。与单独的FOGSINS系统相比,姿态、速度和位置的精度获得了提高,与星敏感器姿态传感器相比则具有更高的更新率。本论文的研究成果为进一步完善基于FOG-SINS和星敏感器的组合导航解决方案奠定了基础,并拓宽了传感器的应用。