无论在军事领域还是在民用领域，多目标跟踪技术都已经展现出广泛的应用前景。基于随机集的多目标跟踪算法是近年来多目标跟踪领域研究的热点，也是本文的研究重点。红外弱小目标的检测与跟踪是红外预警系统和精确制导系统中的一项关键技术，怎么实现低信噪比下的红外弱小目标检测与跟踪是一项很有挑战性的研究课题。本文重点研究了概率假设密度（PHD）和多伯努利滤波器以及低信噪比条件下红外弱小目标的检测前跟踪（TBD）方法。首先本文介绍了随机集的相关理论，研究了高斯混合PHD算法和PHD平滑算法，仿真实验表明高斯混合PHD平滑算法可以获得比高斯混合PHD算法更加准确的状态估计。其次研究最近提出的根据随机集推导出的多伯努利滤波器，然后介绍其在线性高斯条件下的实现-高斯混合的势均衡多伯努利滤波器。在非线性条件下，研究了两种高斯滤波方法：积分卡尔曼滤波（QKF）和容积卡尔曼滤波（CKF），并提出了基于QKF的势均衡多伯努利滤波器和基于CKF的势均衡多伯努利滤波器，较好地解决了非线性滤波问题。最后，针对基于粒子滤波的多伯努利TBD算法需要存储空间大，跟踪效果差等缺点，提出了基于高斯粒子的多伯努利TBD算法，在预测和更新阶段，对每一个高斯项采样粒子，每一帧只需存储高斯分布的均值和协方差，在较少的采样粒子数的情况下，可获得较高的跟踪精度。仿真实验表明提出的算法有较好的跟踪性能。