基于视觉的非合作目标航天器相对位姿测量是实现航天相对导航任务的主要技术。为了实现高效的相对导航，要求相对位姿测量必须具有实时性、高精度和较好的鲁棒性。然而，航天器(特别是微小卫星)硬件系统的性能有限、目标航天器表面特征复杂、要求位姿测量的量程大并且光照条件较差，这些在轨任务的特点对相对位姿测量算法提出了更高的要求。现有的基于视觉的非合作目标相对位姿测量技术难以兼顾计算速度、精度和鲁棒性，特别是无法在微小卫星硬件系统中实现。本文中以航天相对导航任务的实际需求为依托，以常见的轴对称航天器为目标，研究了在微小卫星系统中实现非合作目标航天器相对位姿测量。主要内容有以下几个方面：
　　针对在微小卫星系统中实现目标航天器上椭圆特征检测问题，提出了一种基于分布相关系数和逐层归类的椭圆特征检测方法。首先，基于图像边缘点的分布相关系数直接计算获得轮廓中的下一个边缘点的位置实现轮廓跟踪，相比于传统的搜索法和矩阵定位法，能够在保持较高计算速度的同时降低算法需求的存储资源；然后以差分梯度方向角代替曲率变化，采用先分割后合并的思想实现椭圆轮廓优化，可快速处理背景复杂、噪声较大的图像；最后，提出了多约束逐层归类策略，以归一化的梯度集和量化区域作为双层必要条件，以拟合误差作为单层充要条件，实现弧段归类，进而获取椭圆特征参数。相比于其他方法，本文方法在计算时间和存储资源上有着较大的提升，更适合在性能有限的硬件系统中实现，并且对噪声、遮挡、光照变化、复杂背景具有较强的鲁棒性。
　　针对目标航天器表面特征复杂、其坐标系未知问题，分析了常见目标航天器普遍存在的轴对称结构，提出了基于轮廓生成元和齐次中心约束的航天器轴对称结构识别与位姿估计方法。算法首先将图像特征映射到三维空间中，以平行和同轴结构条件约束空间特征的轮廓生成元和齐次中心，实现轴对称结构截面轮廓投影特征识别；然后在三维空间中，解算得到空间截面特征的归一化尺寸和距离，重建了空间轴对称结构，实现了多帧图像间的目标跟踪；再分析了截面圆投影到像平面上退化为直线的情况，解决了当产生这种奇异性投影时的空间结构识别和三维重建问题；最后，在重建的空间结构上建立目标坐标系，计算得到航天器之间的相对位姿。相比于其他算法，该算法的测量目标涵盖了目前绝大部分航天器，当未知目标几何尺寸时，该算法仅需单视图即可估计目标航天器的相对姿态和相对位置的方向。
　　针对连续位姿估计过程中异常值检测的问题，引入灰色预测模型，提出了基于广义灰色预测模型的位姿估计异常值检测算法，实时地预测位姿数据作为参考值，与估计的位姿数据进行比较，检测位姿估计过程中的异常值，避免将其应用于后续任务中。该算法从预测模型和累加生成两个方面分析了传统GM(1,1)模型存在的问题，提出了广义灰色预测模型(GGM)；从矩阵的角度讨论了不同的累加形式，明确了广义模型计算参数矩阵及其子矩阵的本质意义，分析了广义模型中新信息的权重及累加还原误差，确定了不同预测需求下的最优累加形式；引入粒子群优化算法(PSO )估计GGM模型中的参数，形成PSO-GGM模型；讨论了广义模型参数的奇异性并给出了当计算过程出现奇异时模型的计算方法。相比于传统的GM及DGM模型，PSO-GGM模型能够准确地获取位姿数据序列的发展趋势，有着更高的拟合和预测精度，因此具有更好的异常值检测效果。
　　研发了非合作视觉相对位姿测量地面验证系统，设计了合理的实验方法模拟在轨导航任务，对本文中提出的算法进行了测试。实验结果表明，针对复杂光照条件下的目标航天器，当测量距离为15m时，x轴和y轴距离测量误差优于31mm，z轴距离测量误差优于340mm，三轴欧拉角测量误差优于1°。能够满足在轨相对导航任务的需求。