多目标跟踪是现代武器和防御系统的关键技术，近年来基于随机有限集理论的多目标跟踪技术已成为学术界研究的热点和难点。随着现代传感器技术的发展及其分辨率的不断提高，扩展目标跟踪问题受到国内外学者的高度重视。由于扩展目标在一个采样周期内会产生多个量测，多个扩展目标的量测数据关联过程十分困难，因此，研究更为实时有效的多扩展目标跟踪方法具有重要的理论意义和实用价值。本文重点研究了基于随机有限集的扩展目标跟踪方法。首先介绍了基于随机有限集的多目标跟踪理论，在此基础上，重点研究了两种基于随机集的滤波方法：PHD滤波和CBMeMBer滤波。其次，针对两种不同的扩展目标系统模型，分别研究了基于高斯混合PHD的扩展目标跟踪方法和基于高斯逆威舍特PHD的扩展目标跟踪方法，并结合两种量测划分方法，通过仿真实验证明了两种算法均有较好的跟踪效果。最后，重点研究了基于CBMeMBer的多扩展目标跟踪方法。针对复杂环境下，由于多个扩展目标产生量测数量巨大以及杂波的存在导致的量测不确定性，使得前述方法中的量测划分过程不能得到理想结果的问题，本文提出一种新的扩展目标量测模型，将量测看成由扩展目标表面随机分布的量测产生点产生的，利用CBMeMBer滤波对量测产生点状态进行估计，并结合聚类方法，实现目标跟踪。该方法在满足高斯混合假设条件下，能够获得较好的多扩展目标跟踪效果。