惯性导航系统以其自主性、隐蔽性、能够提供完备导航信息等优点,使其在军事应用领域一直备受关注。随着高速大容量数字计算机和高精度光学陀螺仪的出现,捷联式惯导系统得到了迅速的发展,并且在低成本、短期中等精度导航应用中逐渐取代了传统的平台式惯导系统。捷联惯导系统抛弃了结构复杂的机械稳定平台,惯性测量元件直接安装在载体上,导航系统的性能更加依赖导航算法的解算精度;现阶段,光学陀螺仪的研究取得了突破性的进展,但是其精度仍然无法与静电陀螺仪相媲美。为了能够进一步提高捷联惯导系统的导航精度,扩大捷联惯导系统的应用领域,本文从提高导航算法的解算精度及旋转调制误差补偿两个方面展开了研究。　　旋转矢量导航算法中,姿态四元数的更新受到导航坐标系旋转变化的影响,现有的分析指出姿态解算需要补偿导航坐标系的旋转误差。本文通过对姿态四元数更新方程的不同近似方法,从另一个角度阐述了导航坐标系的旋转变化对姿态解算的影响。当姿态更新频率较快,导航坐标系旋转四元数与姿态四元数可近似满足乘法交换律时,旋转矢量姿态算法可以不补偿导航坐标系的旋转误差。　　基于对偶四元数的螺旋变换保证了运动的完整性,能够更加真实的描述载体运动,现有分析表明对偶四元数导航算法与传统导航算法相比具有更高阶的截断三角级数。本文通过与传统的姿态算法及速度算法相比较,分析了对偶四元数姿态算法及速度算法的编排在解算精度上的优越性。　　对偶四元数导航算法颠覆了传统导航算法的结构,引力加速度和比力分别在不同的坐标系中进行积分运算,高度信息是通过位置向量经坐标变换获得的。基于对偶四元数导航算法结构分析了高度解算的稳定性。　　对偶四元数导航算法需要计算大量的对偶数及对偶向量,位置信息的获取还需要进行迭代运算,该导航算法的计算量较大,对于实时性要求苛刻的捷联惯导系统增加了导航计算机的负担。针对该问题,提出了一种基于四元数运算的改进导航算法,该导航算法继承了对偶四元数姿态算法及速度算法的编排,并给出了一种不需要迭代运算的改进位置算法。改进导航算法计算量小、解算精度与对偶四元数导航算法相当。　　频域内导航解算可以有效的抑制不可交换性误差,提高导航精度。鉴于改进导航算法的优势,将其引入频域解算可以进一步提升导航解算精度。基于改进导航算法,推导了频域内解算的导航方程;为了提高连续时间信号的重构精度,给出了基于四元数微分方程的角增量离散信号光滑延拓方法,该方法能够同时保证角增量函数及四元数函数在边界处的连续性,并通过仿真比较了时域和频域内导航解算的性能。　　现有的旋转调制方案直接作用于载体和惯性测量单元( IMU)之间,忽略了载体姿态运动对误差调制效果的影响,调制周期内载体姿态的剧烈变化会降低误差补偿能力。针对该问题提出了基于导航坐标系的旋转调制方法,该方法能够隔离载体的姿态运动,提高了旋转调制的误差补偿能力。