随着雷达技术的发展,传感器技术的日益精进,高分辨率雷达越来越普遍。当一个目标覆盖多个雷达传感器分辨单元,产生多个量测时,我们称此目标为扩展目标。在扩展目标跟踪问题中,人们不再仅仅关注目标的位置信息,同时希望获得目标的外形状态。星-凸（Star-Convex）建模方法利用有限个数的半径函数来描述目标外形,适用于非规则外形的建模。高斯过程（Gaussian Process）可以用来学习半径函数,在空间域将半径函数参数化,可以获得直观的估计效果。利用高斯过程建模扩展目标外形是本文的研究重点。在高分辨率雷达下的扩展目标跟踪问题中,一个目标需要与多个量测进行关联。概率多假设跟踪（Probabilistic Multi-Hypothesis Tracker,PMHT）算法是一种基于最大期望（Expectation-maximization,EM）算法的多目标跟踪算法。PMHT算法将量测基于概率与每个目标相关联,每个量测的独立的与目标进行关联,是一种“软”决策关系,避免了传统数据关联算法计算复杂度随目标数指数增长的特性。PMHT算法非常适合在扩展目标跟踪问题中使用。因此,本文所研究的重点内容是基于GP模型和PMHT算法的非规则外形扩展目标跟踪算法。其主要内容为:1、介绍了扩展目标的主要建模方法,包括随机矩阵模型、随机超平面模型、GP模型等,其中重点介绍了GP模型。基于目标的运动状态和扩展状态建立联合状态模型,对二者进行同时估计。由量测来源的不同,量测模型又可分为轮廓模型和表面模型。2、介绍了PMHT算法的基本原理,以及如何引入泊松率来反馈航迹的质量。PMHT算法可以将复数的量测关联给同一个目标,量测关联过程相互独立,计算复杂度较低,且易于扩展,非常适合处理扩展目标跟踪问题。3、轮廓量测模型用于建模量测在目标边界上分布的情况,在2D场景下,这意味着量测是一条曲线周围的离散点。当使用激光雷达作为传感器时,轮廓量测模型是非常适用的。本文介绍了经典GP算法在轮廓模型下的建模与应用。4、当接收到的量测信息来源于目标的内部时,扩展跟踪问题将会更加复杂。传统的GP方法使用随机变量来作为缩放参数,从而适应表面量测。然而这种方法并不适合在PMHT框架下使用,带来了计算困难。除此之外,传统GP算法往往采用固定的半径数以及均匀的角度间隔,这在某些场景中并不适用。此外,在目标运动过程中可能会出现变形、分裂等情况。为了应对此类问题,本文提出了ET-GP-S-PMHT算法,该算法将GP模型与PMHT算法相结合,并在表面模型场景下进行应用,同时给出了一种动态调整的策略,使算法具有一定的动态性,在动态扩展目标跟踪中取得了良好的性能。最后通过仿真验证了算法的有效性。