现代高科技战争要求雷达具有较强的生存能力和较高的工作性能。外辐射源雷达因其对隐身目标探测能力强、抗干扰性能好等优点受到人们的重视。它是利用非合作的外辐射源发出的信号(如调频广播、电视等)作为探测信号,从回波中提取目标参数的雷达。而对其性能的完善和推广应用有赖于一些关键技术的发展,本文主要研究外辐射源雷达杂波抑制和航迹滤波。直达波、地杂波以及多径信号是影响外辐射源雷达探测性能的重要因素。基于参考天线中直达波与主天线中直达波、杂波的相关性,本文采用FDAF变步长自适应滤波算法抑制杂波。该算法利用变步长LMS算法和频域自适应滤波相结合,不但具有处理速度快的优点,还具有较快的收敛速度和较小的失调误差。通过对理论数据和实测数据处理,并与LMS算法和RLS算法进行比较,验证了该算法的可行性和有效性。电视信号是本文研究的一种辐射源。针对其存在的测距模糊问题,本文利用信号处理得到的多普勒频移和方位角,对目标的位置和速度进行滤波与预测。其中的关键技术就是航迹滤波。由于常用的扩展卡尔曼滤波对噪声固定估计做法会导致滤波发散,本文研究了改进的Sage-Husa自适应滤波算法。新的算法利用观测数据和动态系统的信息,自适应地估计和修正噪声统计特性,从而减小估计误差。最后对理论数据处理,并与扩展卡尔曼滤波比较。结果表明改进的Sage-Husa算法可以精确地估计出目标的运动轨迹,且能有效抑制滤波发散,保持滤波精度。