未来战争将是体系与体系之间的对抗,无人机编队作战作为一种新型的空战模式受到各军事强国的广泛关注。高精度、高可靠性的相对导航系统为提高编队整体作战效能提供了支撑和保障,是实现无人机编队飞行的关键核心技术。为了保证编队无人机之间精准的通信与协调控制,有效提高综合作战效能,本文对基于视觉传感器的无人机编队相对导航问题进行了深入分析研究。主要研究内容包括:考虑到传统扩展卡尔曼滤波算法在无人机编队相对导航状态估计问题中存在估计精度低以及收敛速度慢等问题,提出了基于容积卡尔曼滤波的INS/Vis Nav相对导航方法。详细介绍了无迹卡尔曼滤波算法和容积卡尔曼滤波算法的基本理论,并从泰勒级数展开和数值计算稳定性上对比分析两种算法的计算效能和估计精度问题,分析结果表明容积卡尔曼滤波算法对于高维非线性系统具有更高的估计精度且数值稳定性好。在设计相对导航滤波器时,为避免四元数归一化限制问题引起误差协方差矩阵的奇异性,采用修正罗德里格斯参数表示姿态误差状态,仿真结果显示,算法具有较高的估计精度以及快速收敛性能。为解决系统建模偏差以及未知系统噪声和量测噪声对滤波性能的影响引入了基于协方差匹配的Myers-Tapley自适应滤波方法。但传统的Myers-Tapley方法利用残差样本均值和样本协方差对系统测量噪声和过程噪声协方差矩阵进行估计的过程是非鲁棒的,即在非高斯系统的应用条件下,采用Myers-Tapley自适应滤波方法会引起滤波精度下降或系统发散等问题。针对非高斯系统下的滤波应用需求,在传统的Myers-Tapley自适应滤波方法基础上,利用基于残差样本投影统计的鲁棒协方差估计对其进行改进,提出了一种改进的Myers-Tapley自适应算法。该算法利用残差样本投影统计实现对系统实际过程噪声和测量噪声水平的有效估计,进而利用估计得到的过程噪声协方差矩阵和测量噪声协方差矩阵有效逼近系统的真实状态,从而改善系统在非高斯应用环境下的性能,抑制测量野值对于系统稳定性的干扰,保证系统的鲁棒性。针对无人机编队相对导航系统中存在系统建模偏差以及视觉导航传感器测量噪声非高斯的问题,将基于Huber方法的鲁棒性估计与基于改进Myers-Tapley方法的自适应噪声统计特性估计相结合,提出了一种鲁棒自适应容积卡尔曼滤波算法。该算法利用Huber估计方法将标准容积卡尔曼滤波算法的量测更新步骤改为线性回归问题,并利用改进的Myers-Tapley自适应算法,改善系统模型不确定性偏差与非高斯测量噪声条件下的滤波估计性能。最后将该算法应用到编队无人机相对导航中,设计了基于鲁棒自适应容积卡尔曼滤波的INS/Vis Nav相对导航滤波器,对比传统的容积卡尔曼滤波和鲁棒容积卡尔曼滤波,鲁棒自适应容积卡尔曼滤波对非高斯测量噪声和系统建模不确定性偏差具有较强的自适应性,能够获取更优的相对导航参数,且具有更强的鲁棒性。针对编队无人机间相对距离较远时视觉传感器无法区分不同特征光点的问题,提出了一种基于视线矢量的的无人机编队相对姿态求解方法。选择三机编队的配置,推导了传感器测量模型,研究了基于互测视线矢量观测情况下的相对姿态求解问题,通过协方差分析讨论了姿态误差的统计特性,并将容积卡尔曼滤波与姿态求解模型相结合,提出了一种基于容积卡尔曼滤波的相对姿态估计方法,最后对比了两种方法的估计精度,对系统性能进行了仿真验证。本文通过对无人机编队相对导航问题的研究,重点分析了基于鲁棒改进的容积卡尔曼滤波方法、鲁棒自适应容积卡尔曼滤波方法以及基于视线矢量的相对姿态确定方法。最后通过理论分析和数值仿真验证了本文所做研究的有效性,相关研究成果可对无人机相对导航滤波器设计提供了有效参考,具有重要的理论研究意义和工程应用价值。