经过了几十年的研究和发展，传统多目标跟踪方法已在许多工程领域得到了成功的应用。但面对情况日益复杂的多目标跟踪场景，由于受制于繁杂的数据关联问题，传统跟踪方法显得有些力不从心。而近年来提出的基于概率假设密度(Probability Hypothesis Density,PHD)滤波器的多目标跟踪方法以随机有限集统计学作为其坚实的理论基础，能够对目标出现、分裂、消失、漏检及杂波等现象进行严格的、统一的数学描述，避免了传统多目标跟踪方法中复杂的数据关联问题，具有较低的计算量和较好的目标跟踪性能。因此，论文分别从跟踪起始、跟踪维持和跟踪终结三个阶段对基于PHD滤波器的雷达辐射源多目标跟踪问题开展研究，主要工作及研究成果如下：　　1.在目标跟踪起始阶段，针对PHD滤波器目标出生强度未知的问题，提出了一种自适应的目标出生强度估计方法。根据相邻时刻的量测信息，本文综合利用单点起始法和两点起始法计算出候选新生目标的位置和速度均值，并基于高斯混合模型实现了目标出生强度的自适应估计。相比已有的目标出生强度估计方法，所估计的出生强度能够更好的表征新生目标的初始状态信息，增强了PHD滤波器的实用性。在此基础上，本文结合自适应的目标出生强度估计对标准PHD滤波器的预测及更新过程进行了改进，并给出了相应的高斯混合及序贯蒙特卡洛两种实现方式。　　2.在目标跟踪维持阶段，鉴于雷达辐射源类别信息不同于目标平台分类信息但又存在着一定的联系，提出了一种基于雷达辐射源信号特征的类别信息辅助GM-PHD(GM-C-PHD)滤波器。本文首先利用辐射源信号特征进行雷达类型的识别，然后基于可传递信度模型根据雷达-平台的配属关系将该识别结果转换到与已知类别信息相同的辨识框架内。在此基础上，采用相容系数度量其相似度用以近似GM-C-PHD滤波器中的量测似然值，从而实现类别信息的辅助雷达辐射源目标跟踪。　　3.鉴于复杂电磁环境中雷达辐射源识别算法无法提供准确可靠的识别结果，提出了一种直接利用辐射源信号参数信息辅助进行雷达辐射源目标跟踪的GM-PHD(GM-E-PHD)滤波器。在辐射源信号参数概率密度分布未知的情况下，本文借鉴概率数据关联算法的思想，通过计算信号参数量测关于目标及杂波的隶属度用以近似信号量测的似然函数值，从而将辐射源信号参数信息融入到GM-PHD滤波器高斯分量权值的更新过程中，有效提高了目标跟踪的性能。　　4.在目标跟踪维持阶段，针对扩展目标PHD滤波器计算量大且量测集划分不准确的问题，提出了一种基于层次聚类量测集划分的ET-GM-PHD滤波器。对于每个时刻获得的所有量测信息，本文通过逐步合并最相似的两个量测子集以实现整个量测集的有效划分，并利用相邻两次划分结果的相似性递归地计算ET-GM-PHD滤波器的量测似然函数值，从而大大降低了跟踪算法的计算复杂度。此外，本文还考虑将雷达辐射源目标的信号特征信息融入到ET-GM-PHD滤波器量测集划分及高斯分量权值更新的过程中，以进一步提高目标跟踪性能。　　5.鉴于已有的扩展目标PHD滤波跟踪算法难以对群目标的形状进行准确建模，提出了一种结合聚类的GM-PHD滤波器雷达辐射源群目标跟踪方法。本文首先在GM-PHD滤波器的更新过程中通过引入群中心产生的虚拟量测信息以克服PHD滤波器对目标漏检敏感的问题，获得单一个体目标的估计状态后再对其进行聚类以实现群目标的跟踪，最后通过对相邻时刻的群中心轨迹点进行关联匹配，从而获得群目标的完整运动轨迹。仿真实验结果表明，本文的方法能够有效处理群目标分裂及合并的情况，并获得较好的雷达辐射源群目标跟踪结果。　　6.最后在目标跟踪终结阶段，针对雷达辐射源目标跟踪过程中存在较多轨迹片段导致跟踪效果不理想的问题，结合标记GM-PHD滤波器提出了一种基于小轨迹关联的多阶段雷达辐射源目标跟踪方法。在小轨迹提取阶段，本文结合自适应的目标出生强度估计和辐射源信号参数信息，利用带有标记的GM-PHD滤波器对雷达辐射源目标进行跟踪以获得目标的轨迹片段（小轨迹）；小轨迹关联阶段则综合考虑了轨迹片段的多个时刻运动信息及辐射源信号参数信息用以计算轨迹片段之间的相似性，然后利用近邻传播算法对其进行聚类关联，避免了一对一关联的约束条件；最后的关联结果修正阶段再根据轨迹片段之间的时空约束关系对关联结果进行修正，从而获得更加完整准确的雷达辐射源目标跟踪结果。