近些年来,随着大型航天器对人类生活影响力的不断提升,保障其安全可靠运行变得尤为重要。因此,以故障检测、维修回收等为核心的大型航天器表面在轨巡检技术逐渐引起了各个国家的关注。相对导航技术是实现航天器表面在轨巡检操作的前提。本文以空间站表面在轨巡检为背景,提出了一种基于空间站表面结构点云配准的航天器自主相对导航算法。主要内容如下:精确的相对位姿测量技术是实现相对导航的前提,因而本文首先介绍了相对位姿测量算法的理论基础。为保证在轨巡检过程中相对位姿参数估计的实时性和准确性,建立了便于进行相对位置、相对姿态建模的坐标系,完成了相对运动模型的推导。此外,根据飞行时间（TOF）相机原理及测量系统成像模型完成了相机的标定实验,获取了精确的相机参数,从而为后续配准算法提供高质量点云数据。为了获得高精度相对位姿信息,本文首先进行了空间站表面巡检相对导航地面实验平台的搭建,构思了相对导航系统的硬件组成方案及工作原理;设计了空间站表面在轨巡检实验的总体过程;并进行了点云数据的预处理研究,主要包括点云的采集、降噪及精简,从而为后续操作提供高质量点云数据。其次,提出了一种改进的尺度不变特征变换和迭代最近点（3D SIFT+ICP）算法,将3D SIFT作为粗配准算法,并利用多维空间的数据结构（K-D tree）的K邻域计算方法搜索最近点,从而加速ICP算法的配准速度。此外,提出了另一种基于改进的采样一致性初始配准和迭代最近点（SAC-IA+ICP）算法,研究了两种具有代表性的关键点检测算法,对SAC-IA粗配准算法进行了改进。最后利用所搭建的地面实验平台对两种改进的算法进行实验验证,实验结果的对比分析表明了本文提出的改进ICP算法的有效性。为了进一步提高相对导航的实时性,本文在上述研究基础上提出了一种基于3D Zernike矩的点云配准位姿测量算法,系统地研究了3D Zernike矩的三维曲面表达机理和高效、稳健的特征向量构建方法,完成了基于3D Zernike矩的匹配算法设计。在实现实时图在基准图上的精确定位后,利用最优化原理设计了相对位姿参数的解算过程,实现了空间站与巡检飞行器间相对位姿参数的解算,并将该算法与上述改进的ICP算法的配准结果进行了对比。最后,对3D Zernike矩配准精度及速度的主要影响因素进行了分析。实验结果表明,3D Zernike矩配准算法较改进ICP配准算法在匹配速度及精度上具有明显的改善,能够更好地满足大型航天器表面自主在轨巡检的需要。为了进一步实现高精度持续相对导航,本文将视觉位姿测量系统与惯性位姿推算系统进行了信息融合。首先对高精度惯性位姿推算系统进行了推导,在此基础上提出了“点云配准/惯性”组合导航系统的总体设计方案,并在扩展卡尔曼滤波器框架下实现了基于航天器三维表面特征的相对位姿滤波器的设计,包括系统线性化模型的推导,以及系统状态方程、观测方程的建立。其次,进一步完善所搭建的实验平台,利用JY901姿态角度传感器获取巡检过程中的加速度及角速度信息。将惯性位姿推算系统分别与改进的ICP配准算法及3D Zernike矩配准算法进行信息融合,估计出空间站与巡检飞行器间最优的相对位置、相对姿态参数,并将两组相对导航结果进行了对比分析。最后,对影响组合导航系统精度的因素进行了验证及分析。实验结果证明了本文所提出的基于“点云配准/惯性”组合导航算法的有效性,能够为大型航天器表面在轨巡检操作的安全可靠性提供技术支持。