目标跟踪指的是通过传感器量测来估计目标状态的过程。随着传感器分辨率的提高,人们不再满足研究简单的单目标、多目标跟踪,扩展目标和群目标跟踪的研究成为国内外学者的研究重点。扩展目标跟踪（Extended Target Tracking,ETT）的滤波算法通常在贝叶斯框架的基础上进行研究,贝叶斯滤波通常分为运动模型和量测模型,通过预测和更新这两个步骤实现。运动模型描述的是目标状态随时间的变化,量测模型描述的是量测与目标状态之间的关系。本文主要使用基于随机有限集的滤波算法来研究多扩展目标跟踪,主要研究内容如下:（1）研究基于随机矩阵模型（Random matrix model,RMM）的势概率假设密度滤波器（Cardinalized probability hypothesis Density,CPHD）,使用伽玛高斯逆威沙特（GGIW）实现,即RMM-GGIW-CPHD滤波算法。该滤波算法下,多扩展目标的形状用椭圆来描述,将运动状态建模为高斯分布,扩展状态建模为逆威沙特分布,并引入量测率,使其服从伽玛分布。它的仿真实现主要分为:参数的初始化,如状态转移方程、量测方程、目标的检测和存活概率等参数的设置;预测步骤,根据设定的参数值来预测当前时刻目标的概率密度;更新步骤,在实现目标量测更新时,首先需要对量测集进行量测划分,使每个划分单元的值均来自同一个目标源或杂波源,然后通过更新得到目标后验概率密度,即GGIW分量以及目标的权值和似然函数;修剪合并,通过设置修剪门限选取需要的GGIW分量,然后设置合并门限,对选取的GGIW分量小于合并门限的数进行合并;多目标状态提取,通常是设置一个值,提取权值大于这个值的GGIW分量,即目标数的估计。最后,通过仿真实验说明RMM-GGIW-CPHD滤波算法的有效性。（2）研究基于随机超曲面模型（Random hypersurface model,RHM）的势多伯努利滤波器（Cardinality balanced multi-target multi-Bernoulli filter,CBMe MBer）。首先介绍随机超曲面模型的基本思想,星凸RHM是通过径向函数的傅里叶级数进行描述,接着构建多扩展目标运动参数、形状参数和量测之间的伪量测方程。该算法的仿真实现流程与RMM-GGIW-CPHD滤波算法相似。首先,对参数进行初始化;接着,对多扩展目标进行预测,计算存活目标的势多伯努利参数集、量测率参数以及存活目标的均值和协方差;然后,对多扩展目标进行更新,在更新之前仍需要先对量测集进行量测划分,接着计算更新存活目标的权值、均值、协方差以及似然函数;最后,对目标的修剪合并和状态提取,先是设置门限提取一定量的多伯努利项,其后设置修剪门限和合并门限对势多伯努利项中的GGM分量进行选取,然后选取一定权值的GGM分量实现目标的状态提取。最后通过仿真实验说明RHM-GGM-CBMe MBer算法对扩展目标具有良好的跟踪性能,并能够准确估计出目标的扩展状态。