自主光学导航方法具有自主性强、精度高、实时性好等优点，是未来深空任务必然的选择和最重要的技术手段之一。本文以深空探测器与小行星交会为背景，重点研究深空探测器自主光学导航技术，论文主要内容包括：首先，为使得导航算法具备更好适用性，本文采用生成模拟图像的方法对算法进行验证。通过研究深空探测任务中目标天体的几何光学成像原理，以及光反射过程中的强度变换关系，并考虑一般天体表面大气、火山口及弹壳纹理状况，完成天体光学模拟图像生成，采用直方图分析方法与真实图像进行对比分析以评估模拟图像的可信度。其次，设计了光学导航图像处理与信息提取算法，结合图像预处理方法、采用基于Canny算子的边缘检测算法完成天体边缘的初始提取，考虑到天体表面光照区域与背光阴影区域交接形成伪边缘，通过分析图像梯度分布对其实现有效去除，并借助包括最小二乘法、Levenberg-Marquardt算法、以及改进的直接最小二乘估计发完成椭圆轮廓的曲线拟合，以及完成天体中心视线矢量的提取工作。最后，考虑导航相机成像模型，完成交会小行星自主光学导航系统动力学建模，选取不同的导航天体和导航测量信息，建立了包括目标小行星视线观测、目标小行星和太阳视线观测以及目标小行星视线及夹角观测的导航测量模型。为考察所建立导航模型其观测信息是否具备解算出系统状态的能力，本文采用数值分析法对导航系统的可观性和可观度进行分析。针对所选择的不同系统状态变量和导航测量信息，结合探测器轨道动力学相对运动模型，基于扩展卡尔曼滤波理论完成导航滤波器设计，对相关状态进行误差估计，有效提高了深空探测器的导航精度，使其满足深空探测小行星交会任务的要求。