近年来随着科技的发展,临近空间高速高机动飞行器给世界各国的安全带来了极大的威胁。飞行器具有高超声速性、高机动性以及隐身等特点,对这类目标进行跟踪防御是一个极其严峻的挑战,将逐步成为研究的重点。因此本文对临近空间高速高机动目标的跟踪算法展开了深入的研究,主要针对快速准确的航迹起始和稳定的目标航迹维持来进行展开。本论文的主要贡献如下:1、针对临近空间高速高机动目标航迹起始难点,提出了基于多普勒的改进修正Hough变换航迹起始算法,与传统航迹起始算法相比,本文提出的算法正确起始概率高、虚假航迹占有率低且航迹起始速度快。2、针对高机动飞行器极强的非线性机动特性,提出了一种基于随机积分的非线性跟踪滤波算法,通过利用随机积分准则实现对非线性系统状态的无偏估计,改善了高机动飞行器的跟踪稳定度以及精度。3、针对飞行器各个阶段的运动特性,提出了一种基于模态估计的交互多模非线性滤波跟踪算法。通过实时估计判断目标运动模态,并自适应的采用匹配跟踪算法实现目标的最优跟踪,同C-IMMSSIF滤波算法相比,改进算法提高了目标跟踪成功概率和跟踪精度,且该算法计算量更小。4、目标在不同飞行阶段具有不同的运动形态,根据其运动特性,利用基于模态估计的C-IMMSSIF滤波算法分别从数据率、检测概率以及机动性等方面对不同运动形态下目标的跟踪性能进行详细研究,并得到一系列的结论。本文提出的新算法已通过仿真实验验证,在不同阶段对目标的跟踪性能均有一定程度提升,具有一定的工程实践价值。