近年来，在红外和雷达领域的弱小目标检测和跟踪问题越来越受到重视，传统的检测后跟踪方法已不能满足低信噪比的情况，基于此问题提出了各类检测前跟踪算法，其中最突出的是基于粒子滤波的检测前跟踪算法。基于粒子滤波的检测前跟踪算法，解决了非线性非高斯系统弱小目标的检测与跟踪问题，但粒子滤波自身仍存在许多问题和限制，这对基于粒子滤波实现的检测前跟踪性能造成影响。本文重点研究基于改进粒子滤波的检测前跟踪算法，单目标情况下，研究了包括重采样、似然函数、多模型三方面的检测前跟踪改进算法，多目标情况下，介绍了概率假设密度滤波算法，分析讨论了多目标情况下检测前跟踪算法的实现。第一，粒子滤波算法重采样引起粒子多样性缺乏，导致检测和跟踪性能的稳定性难以保证。提出一种基于粒子优化的重采样算法，该算法通过在重采样过程中采用扩展卡尔曼滤波引入观测信息，使粒子分布所表征的概率密度函数更接近真实后验概率密度，再将粒子以类sigma点随机采样的方式进行分裂复制，以保证粒子的多样性，从而提高检测前跟踪算法性能。第二，粒子滤波实现检测前跟踪过程中，粒子权值由似然比函数确定。然而似然比函数与观测噪声的概率密度分布函数密切相关，在观测噪声未知的情况下，检测和跟踪的性能也无法得到保证。采用基于核估计思想的卷积粒子滤波，在优化构造粒子似然函数的同时，将粒子重采样由离散分布采样转化为连续分布采样，提高检测前跟踪的检测和跟踪性能以及鲁棒性。第三，针对强机动弱小目标，检测前跟踪算法中的单一模型难以与真实模型完全匹配，导致算法性能下降。本文分析讨论了交互式多模型处算法原理及其实现，并将其引入基于卷积粒子滤波的检测前跟踪算法中，提高滤波模型的匹配度，从而提高检测前跟踪算法性能。第四，在多目标情况下，特别是目标个数随着时间不断变化的情况，基于粒子滤波的检测前跟踪算法难以实现。本文分析了基于随机有限集理论的概率假设密度滤波算法，讨论了该算法在多目标下实现检测前跟踪的过程，并将改进的概率假设密度滤波应用于检测前跟踪算法中。