惯性导航系统是一种抗干扰能力强的自主式导航系统,在卫星导航系统使用受限的环境下能起到重要作用。作为惯性导航系统的核心部件之一,目前在用的陀螺仪无法兼得高精度与小型化,从而限制了惯性导航系统的发展。得益于微加工技术的发展,核磁共振陀螺仪可以兼顾高精度和小型化,相比其他陀螺仪具有更大的发展潜力,目前已成为惯性导航领域的研究热点之一。当前核磁共振陀螺仪的研究主要聚焦于性能的提升和小型化的方案设计。本文则针对核磁共振陀螺仪中的关键技术进行了研究,以实现核磁共振陀螺仪性能的提高。首先,研制了用于核磁共振陀螺仪的激光系统,其基于调制转移光谱进行激光频率锁定。提出了激光稳频的优化策略,实现了激光频率稳定性达到1.73×10-10的秒稳以及4.23×10-11的千秒稳,且激光器系统可连续锁定超过1天无跳点。这一激光频率的稳定性使得5000 s内的原子磁力计信号起伏不超过0.013%。其次,通过纵向磁场调制的方案研制了三维原子磁力计,并基于该原子磁力计实现了三维磁场的锁定。锁定后三个方向上的磁场起伏在5000 s的时间内不大于7 n T,对应了陀螺仪输出角频率误差不超过0.08 Hz。探究了不同气室温度对三维磁场锁定效果的影响,发现较高的气室温度下具有更小的磁场本底噪声。再次,实现了惰性气体原子弛豫的自动化测量,并比较了展宽拟合法和自由感应衰减法的优劣。通过拟合纵向磁力计误差信号的方法实现了对惰性气体原子横向弛豫和纵向弛豫的同时测量。基于惰性气体原子的弛豫测量技术,通过测量不同气室和不同温度下惰性气体原子的弛豫,获得了Cs原子与Xe原子的自旋交换效率因子和气室壁碰撞弛豫的评估值。根据碱金属原子磁力计信号对碱金属和惰性气体原子的极化率进行了估算,并根据估算结果给出了增强因子的参考值。最后,通过对不同条件下的最佳缓冲气体压强以及对应的最佳泵浦光光功率密度进行了仿真分析,给出了气室中最佳气体配比的优化方法。气室中气体配比的优化可以提升核磁共振陀螺仪中惰性气体的极化率和原子磁力计的灵敏度,有利于提升核磁共振陀螺仪的角度随机游走和偏置稳定性。