近年来,基于随机有限集(RFS,Random Finite Set)理论的多目标跟踪方法在军用和民用等领域得到了广泛应用,对此问题的研究,催生发展了大量的相关技术。现代战场环境中,具备低可见、超声速巡航和高机动等特性的隐形战机正成为以美国为首的西方国家的主战武器,针对此类隐形目标,传统RFS滤波算法的跟踪性能往往会急剧下降。本文的目的是根据隐形目标的特性扩展滤波器的应用情形,在不同的假设条件下对滤波算法进行改进,提高算法的可靠性和跟踪的精确性。具体工作如下:首先介绍了RFS理论和实现方法,对此理论框架下的几种标准滤波算法的实现及效果进行比较和分析,验证了多目标多伯努利(MeMBer,Multi-target Multi-Bernoulli)滤波器在工程实现中的应用优势。其次,针对隐形目标跟踪系统中量测噪声协方差以及检测概率未知时变的具体情形,扩展传统的MeMBer滤波器,提出了基于变分贝叶斯(VB,Variational Bayesian)近似的MeMBer滤波算法,使用贝塔高斯逆伽马混合(BGIGM,Beta Gaussian Inverse-Gamma Mixture)分布表示多伯努利随机有限集,推导了滤波器的递归方程。仿真结果表明本文提出的滤波算法可以很好地适应系统中的未知时变参数,有较小的最优次模式分配(OSPA,Optimal Subpattern Assignment)距离以及较精确的目标数目估计,拥有良好的跟踪性能。同时,针对低信噪比的隐形目标在应用门限处理方式后产生的严重漏检问题,提出了适用于隐形多目标的MeMBer滤波器检测前跟踪(TBD,Track Before Detect)算法。并考虑回波的复杂起伏特性,对似然函数融合了目标起伏模型。仿真结果表明改进算法可以在低信噪比条件下有效地用于隐形多目标的跟踪,并且由于考虑了隐形目标的起伏特性,目标跟踪的精度也得以提高。最后,使用多模型方法研究了隐形目标机动的问题,并在传统的模型集合中增加了常加速度(CA,Constant Acceleration)模型以刻画目标加速以及减速状态,本文所描述的模型集合能够模拟较复杂的机动状态。仿真结果表明该方法可以很好地应对隐形多机动目标跟踪。