群目标跟踪是现代目标跟踪技术研究的重要领域之一,是多目标跟踪技术的一种特殊情况。在完全不可分辨、部分可分辨和完全可分辨的条件下,群目标跟踪与多目标跟踪有着显著不同:在传统的量测-目标关联方法的基础上需要考虑群目标整体运动趋势及群目标结构信息,群整体和个体、个体与个体间的交互运动特性,群目标属性特征及其动态变化等情况。因此,亟待研究综合利用群目标相关特征的建模和求解方法。本文以群目标跟踪应用为背景,以贝叶斯理论为研究基础,在理论上研究基于贝叶斯框架的群目标跟踪方法,提出了杂波环境下单群目标鲁棒跟踪方法、多群目标跟踪方法和机动群目标跟踪方法;在应用层面充分挖掘群目标特征属性及其相互关系,将群目标特征属性与运动状态在贝叶斯框架中进行联合估计,构建了群目标形状的分层贝叶斯模型和群目标机动特性的非参数贝叶斯模型。所提出的贝叶斯框架及算法可对群目标跟踪做出更为全面、清晰、准确的解释,对提高环境感知能力有重要的理论和实际意义。本文的主要研究成果包括以下四个部分:1.基于贝叶斯框架构建统一的群目标跟踪系统。首先针对密集群目标整体运动趋势和形状估计问题,给出单层群目标跟踪贝叶斯框架,可以对群目标状态及环境变量进行联合估计。其次,针对稀疏群目标结构信息及整体与个体交互特性,给出联合群整体-个体估计贝叶斯框架,可以集成群内目标的交互关系进行估计提升跟踪质量。针对各类应用场景综述了当前主要的群目标形状和交互模型的构建方法。此外,由于群目标跟踪系统具有非线性、非高斯和系统维度较高等特点,还介绍了粒子滤波方法和随机有限集方法在群目标跟踪中的应用。这些基本模型和实现方法之间的区别和联系,为后续的研究奠定了基础。2.基于随机矩阵模型的鲁棒群目标跟踪算法。该算法构建量测的混合观测模型,并在群目标系统状态模型中集成环境杂波密度参数,详细推导了群目标形状、运动状态和环境杂波密度联合估计滤波器,采用变分法在极大化似然条件下计算出系统状态各变量的概率密度解析解及其估计值,给出了跟踪系统在线迭代计算方法。此外,针对传感器观测噪声具有重尾分布特性而产生异常量测、监视环境中存在杂波干扰等情况,引入量测的学生分布表示,为每个量测定义权重系数刻画该量测对于群目标状态估计的贡献,物理意义清晰。算法具有良好的可扩展性,仿真实验验证了所提出算法的有效性和鲁棒性。3.基于随机超曲面模型的多群目标跟踪算法。该算法将概率多假设跟踪方法扩展至多群目标跟踪应用中。通过定义随机超曲面模型的分层贝叶斯模型,将随机超曲面模型中的形状傅立叶系数和轮廓比例系数定义为服从贝塔分布和高斯分布的未知参数,在充分考虑量测源不确定性的基础上更为精确地刻画群目标形状轮廓,并解决了由于非线性观测模型造成的数值计算方法所引入的误差和无法进行系统扩展的问题。此外,采用变分法在极大化似然条件下计算得到了系统各状态变量和参数的概率分布的近似解析解及估计值,给出了算法的在线迭代实现方式。算法性能优于传统方法,仿真实验验证了该算法的有效性和优越性。4.基于非参数贝叶斯模型的稀疏机动群目标跟踪算法。针对杂波环境下的稀疏机动群目标跟踪应用,算法构建群目标动态系统模型,使用分层狄利克雷过程学习系统状态的未知时变变化,包括未知的群目标运动模式及运动模式间的变迁概率等,将面向航迹的多假设跟踪方法与分层狄利克雷过程—隐马尔科夫模型相结合,得到了机动群目标跟踪航迹起始、航迹生成和航迹维持的计算。此外,该算法给出了基于Rao-Blackwellized粒子滤波方法的在线计算实现方式,降低了系统采样空间的维数并提高粒子采样效率。仿真实验验证了该算法的有效性和优越性。