航天器在轨服务是当前国内外航天领域的热点与前沿方向，高精度的自主相对导航是实现在轨服务接近操作控制的前提条件。单目视觉以其体积小、功耗低及信息丰富等优势已成为在轨服务航天器相对导航敏感器的首选，针对诸如失效航天器等无法提供合作标识器的航天器视觉相对导航的相关研究迫在眉睫。本学位论文在某部委“×××在轨服务航天器视觉测量技术”项目的资助下，以航天器在轨服务为研究背景，考虑基于目标航天器自然特征的单目视觉相对导航所带来的特征冗余、存在粗大误差及测量频率低且不连续等问题，重点围绕特征主动选择、相对位姿鲁棒性确定和视觉/IMU组合相对导航等问题开展研究，取得了如下研究成果：
　　航天器自然特征提取和匹配会出现大量冗余特征，若利用上述全部自然特征进行位姿解算会导致计算量剧增的问题。为此，提出了一种仅利用对导航性能起决定作用的有效特征子集的主动特征选择策略，并分别基于凸包和最小冗余度给出了两种航天器自然特征主动选择方法。在定义特征数量和分布相关的视觉导航精度因子并分析导航精度影响关系的基础上，设计了一种两阶段求解的自然特征最大面积凸包求解算法，实现了满足几何分布相关精度要求的自然特征选择。其次，在利用两像点投影向量间夹角定义两特征点的分散度并进而构建自然特征冗余度的基础上，提出了一种基于最小冗余度的特征主动选择迭代方法，能够有效实现给定数量的自然特征选择。数学仿真表明，两种方法均可以选择几何分布好的特征，在不显著降低相对位姿解算精度的前提下，可将特征数量降低到原来的1/4以下。
　　考虑到航天器自然特征提取和匹配会产生粗大误差，直接利用包含粗大误差的特征会导致相对位姿确定结果误差变大甚至无效，为此，提出了一种基于核空间的航天器相对位姿鲁棒性确定方法。该方法在所有特征点投影向量切向空间上建立约束方程，以该方程的核空间为基础定义特征点的几何误差，构建由几何误差确定的粗大误差阈值并迭代判断粗大误差，进而得到剔除粗大误差的自然特征并鲁棒性估计核空间。考虑旋转矩阵约束，给出了一种基于正交迭代的相对位姿确定非线性优化方法和初始解解析求解方法。数学仿真表明，所提出的方法能有效剔除粗大误差并高精度地确定相对位姿，提高了利用自然特征的相对位姿确定的鲁棒性，其所用时间受粗大误差比例影响小；利用实际图像分析进一步验证了该方法的有效性。
　　考虑采用自然特征的航天器视觉测量系统输出频率低，且受光照或其它外部干扰导致测量不连续等问题，利用IMU高输出频率、环境影响小等特点，探索单目相机与IMU组合的相对导航方法。同时，考虑两敏感器间的安装位姿参数估计需求，针对相机和IMU安装位姿离线标定方法需要额外设备辅助且标定过程复杂的问题，提出了一种视觉/IMU组合的航天器相对导航及在线自标定方法。考虑相机/IMU安装位姿与相机观测量的关系，建立了系统观测模型；利用包含安装位姿的扩展状态变量，设计了一种可抑制线性化误差的偏差修正滤波算法，并利用非线性可观理论对系统的可观性进行了分析。最后，通过数学仿真验证了所提出的视觉/IMU组合的相对导航及在线自标定方法的有效性和正确性。