准确跟踪多个运动目标的轨迹是一项在多个领域中都不可或缺的关键技术。目标的非协作性导致目标数目及运动信息难以获取，传感器本身的系统噪声及监控区域内观测野值带来了观测信息的不确定性，这两大难点使得多目标跟踪成为一项十分艰难的任务。解决多目标跟踪问题的传统方法是通过采用硬关联或软关联判断观测量的来源，完成对多目标问题的拆分，进而实现对单个目标的独立跟踪。该类方法没有对多目标建立统一的理论体系，在面对目标数目未知时变的复杂场景时往往束手无策。基于RFS的多目标跟踪算法避免了目标-量测关联，利用集合建模实现了对多目标的整体滤波处理，开辟了一种应对复杂跟踪场景的新途径。外辐射源雷达的重要职能之一就是同时实现对多个运动目标的有效跟踪，该系统的联合定位体制及输入到跟踪系统中的数据的高度不确定性，必然会大大增加多目标跟踪的难度。本文对基于RFS的多目标跟踪方法及其在外辐射源雷达背景下的应用进行了研究，主要取得了以下成果：　　1.在SP-PHD滤波中，根据目标状态转移密度函数分布预测粒子，导致滤波性能严重依赖目标运动模型，在运动模型不准的情况下，大量粒子偏离真实目标状态，粒子退化严重。为提高SP-PHD滤波中的粒子有效利用率，提出一种改进的P-PHD算法，该算法基于球面-径向容积数值积分准则，利用CKF产生建议密度函数，并对其进行采样得到当前时刻的粒子状态，从而使粒子分布更接近于真实多目标后验PDF，有效地缓解了SP-PHD滤波算法中的粒子退化现象，大大减少了SP-PHD滤波中所需粒子数。同时，CP-PHD滤波算法性能不受目标状态维数的影响，在目标状态维数较高时，其性能优于UP-PHD滤波。　　2.提出了基于SCKF的P-CBMeMBer滤波算法。该算法采用SCKF产生建议密度函数，从而使预测粒子分布更接近于高似然区域，达到改善粒子分布和提高跟踪精度的目的。SCKF是对CKF的一种改进算法，具有计算量小、算法性能不受目标状态维数影响等与CKF相同的优点，其滤波性能与CKF相似，但SCKF不需要对矩阵做开方处理，从而避免了由此导致的滤波精度下降、算法发散或终止等现象的出现，仿真表明所提算法跟踪精度优于UP-CBMeMBer滤波，与CP-CBMeMBer算法性能相当，这说明SCP-CBMeMBer滤波在提高算法稳定性的同时保证了算法的跟踪精度。　　3.在P-CBMeMBer滤波中，对所有存活粒子不加判断地全部用观测量修正其预测状态虽然能缓解粒子退化，但势必会带来大量运算，并且由于没有进行目标-观测量关联，该类算法在杂波较多时会造成明显的目标数目过估计。为应对上述问题，提出了一种自适应P-CBMeMBer滤波算法。该算法一方面简化了P-CBMeMBer滤波中的更新步骤，在获取量测更新航迹时，只保留了对该航迹生存概率贡献最大的预测航迹所对应的粒子集，另一方面首先选择目标状态转移密度函数作为建议密度函数，在该条件下得到所有粒子的预测状态，再通过重采样对预测粒子进行分类，保留质量较好的粒子状态，对其余粒子利用其所在航迹对应的观测量对其状态进行修正，最后用仿真数据说明该算法在改善粒子质量的同时降低了由此带来的运算量，并且能有效解决由于过度使用观测量带来的目标数目过估计问题。　　4.提出了一种适用于外辐射源雷达的P-PHD多目标跟踪算法。P-PHD滤波多假设新生目标信息先验已知，该条件在外辐射源雷达背景下不再成立，当新生目标信息未知时，P-PHD滤波需要消耗大量粒子来检测每时刻是否有新生目标出现。针对该问题，所提算法利用当前观测量（双基地距离和、目标方位角和多普勒频率），结合外辐射源雷达多站联合定位原理，寻找新生目标最有可能出现的区域，以达到优化新生粒子分布的目的，同时在滤波更新阶段充分利用对应多个发射站的观测量，以改善跟踪滤波精度。由于外辐射源雷达中目标方位角通常精度较差，因而所提算法中目标方位角只用来优化新生粒子分布区域，不用在后续量测更新中。