多目标跟踪技术已经广泛应用于军事和民用领域,但它仍是多学科、多领域所共同关心的重点和难点问题。在多目标跟踪问题中,传统的处理方法是先进行数据关联,然后再对目标状态或参数进行估计,数据关联是整个跟踪问题的核心与关键。当目标个数较多并存在一定数量的杂波和虚警时,关联本身就难以处理,会出现诸如组合爆炸、计算量呈指数型增长等问题。随机集方法则是避开数据关联去研究目标跟踪问题。但是它的计算过程中存在集函数积分运算,且没有一般意义下的解析解,这就产生了在实际中因计算复杂而难以实现的问题。随着研究的深入,有学者在随机集理论的框架下提出了PHD滤波器。该方法将集函数积分运算简化为单个变量的积分运算,具备了实现数值运算的可行性。PHD算法虽然有很多优点,但在应用领域也存在一些问题。例如,PHD只能估计出目标状态点集,而无法给出目标的运动轨迹;在多数情况下需要通过数值方法计算PHD中的函数积分,如何得到效果更好的PHD数值算法是个值得研究的问题;PHD并非适用于所有跟踪问题,在不同的条件和环境下,如何将其与其它经典跟踪方法进行比较,确定各自的适用范围是个亟待解决的问题。本文针对PHD在理论和应用中存在的问题分别展开研究,主要内容如下:1)对国内外部分相关文献进行综述,分析总结多种经典算法的优缺点,提出PHD方法可以克服其它方法的一些缺点,有望更好地解决目标跟踪问题,是今后的研究方向之一。2) GM-PHD滤波器及其在多目标跟踪中的应用。在混合高斯情况下,提出一种可以解析计算的改进GM-PHD算法,并且在得到目标的状态估计点集后,利用“最近邻”聚类算法确定目标的运动轨迹。3) GM-PHD与JPDA算法的性能分析与比较。通过分析GM-PHD与经典JPDA跟踪算法的计算量,得到两算法计算复杂度的解析表达式;然后根据观测与目标状态之间关联复杂程度,分三种典型情况对两类算法的计算量进行比较,并给出各自算法的适用范围。4) UPF-PHD滤波器及其在多目标跟踪中的应用。从数值计算的角度出发,提出一种新型PHD算法,它结合UPF来进行数值计算,并结合“最近邻”聚类的思想,解决目标轨迹问题。