临近空间高超声速飞行器因其高速、大机动、全球到达的特点,已成为国防安全的一类新型威胁。近年来,随着各军事大国陆续披露和列装高超声速武器装备,临近空间高超声速目标的防御问题研究也变得日益重要。由于临近空间高超声速目标具有非惯性的航迹形式和大范围、强机动的突防能力,为进行有效的拦截,需要对其进行高精度的航迹估计和预报。现有航迹估计多基于自适应滤波和多模型方法并使用经典的目标机动模型,难以应对目标复杂的机动特性。同时,传统采用参数辨识和固定模型外推的航迹预报思路也无法应对目标机动的策略性变化。鉴于此,本文考虑目标复杂策略性机动的影响,研究临近空间高超声速目标的航迹估计和预报问题,将循环神经网络与非线性滤波方法深度嵌合,对目标运动行为进行识别和预判,进而实现对目标航迹的估计和远期预报。本文具体的研究工作如下:首先,给出临近空间高超声速目标的动力学模型,分析准平衡滑翔和跳跃滑翔两类典型的目标运动特性,推导构建可识别的运动行为参数,并分别建立准平衡滑翔和跳跃滑翔的参数化运动行为模型;基于目标机动能力分析,构建可以完整描述目标运动行为的模型集。其次,考虑高超声速目标复杂的策略性机动特性,提出基于注意力LSTM的运动行为识别网络结构设计方法,使用现有目标航迹数据生成训练和测试数据集,对网络进行训练和网络参数设计,通过数据驱动充分挖掘航迹特性先验信息,给出隐含的目标运动规律,实现了对目标运动行为的识别,并且对目标未知形式机动具有适应能力;提出基于运动行为识别网络的在线航迹估计算法,设计几种适应不同精度和实时性需求的模型选择策略,根据运动行为识别结果主动选择模型进行融合滤波,实现了临近空间高超声速目标的航迹估计。再次,考虑目标机动的策略性变化,提出基于“编码-解码”架构的目标运动行为预判网络结构设计方法,实现了目标远期运动行为序列的生成;提出基于运动行为预判网络的远期航迹预报算法,根据目标运动行为预判结果自主切换航迹预报中所使用的模型序列,实现了复杂策略机动条件下临近空间高超声速目标的长时航迹预报。然后,针对一类具有大范围模型不确定性的非线性滤波问题,将循环神经网络与扩展卡尔曼滤波深度嵌合,提出一种可学习的扩展卡尔曼滤波方法。考虑航迹估计实际应用中的实时性需求,将目标复杂机动视为目标机动模型存在大范围不确定性,设计基于可学习扩展卡尔曼滤波的航迹估计算法,实现了临近空间高超声速目标的快速航迹估计。最后,将提出的基于运动行为识别网络的航迹估计方法、基于可学习扩展卡尔曼滤波的航迹估计方法、以及基于运动行为预判网络的航迹预报方法应用于典型临近空间高超声速目标机动场景,对比分析所提出航迹估计与预报方法的性能优势。结果表明,所提出的方法可有效应对更复杂的目标策略性机动,并且较之现有方法具有更高的估计和预报精度及更优的动态性能。