主带小行星因其蕴含丰富的太阳系形成初期信息,已成为当今国际深空探测活动的热点。小行星接近段导航技术是主带小行星探测的关键技术之一,航天器根据观测量(地面站观测量、导航敏感器观测量等),解算出航天器状态的估计值。航天器的状态变化可用动力学微分方程进行描述,即导航状态方程。与地球等行星不同,以谷神星、灶神星为代表的主带小行星具有较为明显的非球型特征,其引力场受到非球型摄动影响突出。本文以深空探测器导航系统的状态方程为研究对象,考虑二体引力加速度、太阳系行星引力摄动以及非球型引力摄动,提出了在考虑非球形引力摄动影响下的状态方程基本形式。由于导航系统的状态方程为非线性方程,通常采用在标称轨道(也称参考轨道或设计轨道)附近作泰勒展开的方法来对状态方程进行线性化处理。方程线性化后的一阶微分方程组中包含了导航状态方程的雅科比矩阵。而雅科比矩阵的求取是求解状态转移矩阵算法中的重要步骤。本文首先给出小行星固连坐标系以及接近段航天器轨道坐标系定义,并在固连坐标系下通过球谐函数展开方法,推导了非线性状态方程雅科比矩阵的求取过程,给出了非球形引力摄动势函数。重点针对求取过程中引入的加速度对位置偏导项的计算方法进行了分析。以谷神星、灶神星为探测对象,采用STK中的小行星非球型引力场系数,仿真比较了非球形引力摄动对处于小行星引力影响球边缘时深空探测器位置与速度造成的偏差。仿真结果标明,在进入小行星引力影响球之后,非球型摄动力与太阳系大行星引力摄动量级相当,有必要将非球形引力摄动项计入探测器轨道动力学模型,即导航状态方程中。本文的研究结果可为小行星探测器导航系统建模与误差分析奠定理论基础。