无源雷达系统利用外辐射信号对目标进行检测、定位和跟踪，具有隐蔽性好、机动性强、造价低廉、抗敌方侦察和反隐身等特点，应用于国防领域时比传统的有源雷达系统具有更大的优势。然而由于外辐射信号一般较弱，并且无源雷达无法准确控制外辐射信号的波形和发射方向，目标回波信号受到较强的干扰，无源雷达系统进行微弱目标检测时存在一定的困难。因此有效的干扰抑制技术成为无源雷达微弱目标检测过程中急待解决的关键课题。本文主要研究无源雷达系统微弱目标检测中的关键技术，对参考通道盲均衡技术、回波通道强目标干扰存在和不存在两种情况下干扰抑制技术进行研究。论文的主要研究内容如下：分析了无源雷达系统的基本原理和常用外辐射信号的探测特性。概述了无源雷达的系统结构，对其几何关系、能量关系进行分析。利用模糊函数分析数字广播信号、数字电视地面广播信号、导航卫星信号和无线通信信号等无源雷达常用外辐射信号的距离分辨力、多普勒分辨力等探测性能。提出了改进的最速下降恒模算法，利用其对无源雷达参考通道进行盲均衡。该算法在最速下降恒模算法的基础上，将先前迭代过程中的误差向量引入到当前误差向量的迭代公式中，利用Lyapunov函数选取适当的算法步长和误差调整步长对算法的收敛速度和稳态性能进行调节。该算法具有收敛速度快、稳态性能好等优点，可以有效解决最速下降恒模算法在噪声功率较大时失效的难题。针对回波通道不存在强目标干扰的情况，将多级维纳滤波器应用到距离-多普勒域内，提出了基于相关相减结构多级维纳滤波器的多径干扰抑制方法。该方法根据回波通道内多径干扰的特征，提出一种新的初始化方法，利用逐级前向分解和后向误差综合对回波信号进行处理，最终得到的输出误差即为多径干扰抑制后的回波信号。在此基础上，又提出基于Householder变换迭代多级维纳滤波器的多径干扰抑制方法。该方法提高了算法的稳健性、降低了滤波器级数。针对回波通道存在强目标干扰的情况，分析强目标回波对微弱目标回波的干扰作用，提出了基于子空间投影的干扰抑制方法。首先，提出了基于最优子空间投影的干扰抑制方法，该方法对多径干扰和强目标回波干扰的抑制作用最好，但是该方法所需强目标干扰的先验信息较难得到。为了解决这一问题提出了基于次优子空间投影的干扰抑制方法，该方法无需先验信息，通过构造多个小维数投影矩阵来取代大维数投影矩阵，可以扩大最优子空间投影方法的应用范围并提高算法的运行速度。在此基础上又提出了基于分块次优子空间投影的干扰抑制方法，该方法将参考信号和回波信号进行分块，匹配的两块组成一个支路，对各个支路并行处理，可以进一步提高算法的实时性。理论分析和仿真结果表明，文中提出的参考通道盲均衡算法和回波通道干扰抑制算法可以满足无源雷达系统需求，能够在实际应用中提高无源雷达系统的微弱目标检测能力。