二十一世纪，迎来了深空探测技术研究与计划实施的新高潮，伴随着火星探测、重返月球等相关深空探测任务的实施，小行星和彗星等小天体的探测已经成为新世纪深空探测的热点之一。由于深空探测的远距离导致地面导航有较大的通讯延迟，因此探测器自主导航技术成为深空探测领域备受重视的关键技术之一。探测器自主导航能减少操作的复杂性，降低任务的费用，简化地面支持系统；同时还是探测器自主化的关键，可以大大增强探测器的自主生存能力，扩展探测器的空间应用潜力。　　本学位论文结合民用航天预研课题——“远程空间非合作性飞行体的会合与附着问题研究”、“远程空间探测会合与附着技术及仿真演示系统”和“十五”863计划项目——“深空探测自主技术与仿真演示系统”，深入研究了探测器自主导航的观测问题、估计问题及在小天体探测应用，并设计了一种深空探测自主导航系统方案和建立了自主导航实时半实物仿真系统。论文的主要研究内容包括：　　首先，研究了探测器自主导航所涉及的基本问题。给出了参考坐标系的定义、时间系统的描述和星历信息的计算，并针对小天体探测任务，建立了深空分离段、巡航段、绕飞和着陆小天体的轨道动力学模型，还给出了形成绕飞小天体轨道的初始条件。　　其次，研究探测器自主导航系统最为重要的两个问题：探测器轨道的观测（轨道测量）和估计（轨道确定）问题。　　针对轨道测量问题，研究了自主导航系统的观测模型与可观性分析。建立了自主导航系统的观测模型，并提出了一种基于位置确定分析和可观性秩条件的导航系统可观性分析方法。针对观测矩阵的秩无法通过表达式直接确定的问题，给出了基于观测矩阵奇异值分解的导航系统可观性分析方法，并用来分析了几种观测模式对应的导航系统的可观性和轨道参数可观度。为了评价导航系统确定轨道的能力，定义了导航系统的可观度，并用来分析了导航系统可观度与测量类型、观测量个数和测量次数之间的关系。为了评价轨道参数的估计精度，给出了基于误差方差阵的特征值和特征向量的轨道参数可观度分析方法。　　针对自主轨道确定中的数值计算、模型不确定和非线性问题，研究了探测器自主轨道确定方法。针对星载计算机字长、处理速度和内存限制，给出了基于UD分解的自主轨道确定方法。在UD分解算法的基础上，针对无法得到精确的轨道动力学模型问题，给出了利用高斯-马尔科夫过程的自主轨道确定方法。针对轨道确定中的非线性问题，给出了利用Unscented卡尔曼滤波的自主轨道确定方法。　　然后，将观测和估计问题的研究成果应用到小天体探测的自主导航中，提出了一种基于多个导航目标光学和星历信息的自主导航方法，并应用到小天体探测的分离、巡航和绕飞段。1）分离段，提出了基于地月信息的深空自主光学导航算法。算法利用地月中心点像素、探测器的惯性姿态和地月星历，通过基于UD分解的递推加权最小二乘算法确定探测器的轨道。2）巡航段，给出了利用多颗小行星图像的自主光学导航算法。分析了导航小行星的选择与规划过程和观测到的小行星个数对轨道确定的影响。3）绕飞段，给出了基于边缘特征点信息的绕飞小天体自主导航算法。算法利用阻尼最小二乘算法处理小天体边缘特征点图像和位置信息来确定探测器的位置，并利用Unscented卡尔曼滤波处理得到的位置信息来估计轨道参数。针对探测器着陆小天体的特点，提出了一种自主光学导航与制导方案。导航方案利用导航相机和激光测距仪测得的三个特征点的图像坐标和探测器到特征点的距离来确定探测器的相对位置和姿态，并利用基于高斯-马尔科夫过程的滤波算法实时确定探测器轨道。制导与控制方案规划出满足垂直软着陆约束的理想下降高度与速度轨迹，设计了滑模变结构控制器跟踪理想轨迹，从而保证了控制器对模型误差和干扰有一定的鲁棒性。所有算法的可行性和有效性都通过数学仿真得到了验证。　　最后，结合我国航天领域“十五”863计划项目——“深空探测自主技术与仿真演示系统”，在上述研究成果基础上，设计了一种深空探测自主导航系统方案，分析了自主导航系统软件的各部分功能、工作过程和工作模式。并建立了一种基于Matlab/Simulink/Stateflow和dSPACE的自主导航系统半实物仿真系统，通过数学和半实物仿真验证了设计的自主导航系统方案是可行的。