机载雷达下视工作时容易受到强地杂波的影响。传统的一维时域滤波和空域滤波难以有效滤除这些在多普勒域和空域上都扩散的杂波。空时自适应处理(Space-Time Adaptive Processing,STAP)技术联合了多个空间通道和相干脉冲进行二维自适应滤波,能够在抑制杂波的同时保证目标获得一定的相干处理增益,是机载雷达杂波抑制的一项关键技术。为了获得更优的STAP处理性能,理论上用于估计杂波统计特性的独立同分布样本数不应少于系统自由度的两倍。但实际杂波环境的非均匀性会导致STAP处理器无法获取如此之多的独立同分布样本,从而导致STAP的杂波抑制性能严重下降。如何提高STAP在非均匀环境下的杂波抑制性能是十分重要的问题。多输入多输出(Multiple-Input Multiple-Output,MIMO)雷达是近年来出现的一种新体制雷达,它的每个天线阵元具有发射任意波形的能力。与常规相控阵雷达相比,MIMO技术能够显著增加系统的自由度,扩展阵列虚拟孔径,提高目标参数估计精度。随着系统自由度的增加,常规参数估计方法的运算复杂度会相应地增加,同时低信噪比、低快拍数等非理因素会使参数估计精度严重下降。如何在低信噪比、低快拍数的非理想环境下提高MIMO雷达参数估计精度,同时降低运算量是值得研究的问题。本论文围绕这上述问题开展研究,具体包括以下几个方面。一、研究了机载非正侧面阵雷达距离非平稳杂波抑制的问题。当机载雷达的天线非正侧视安装时,其杂波谱会随着距离的变化而变化,从而导致杂波出现距离非平稳的现象。杂波的距离非平稳性会导致传统STAP无法获取独立同分布的训练样本。在高重频工作模式下情况将变得更加复杂,近程杂波和远程杂波由于距离模糊耦合在一起,杂波抑制变得更加困难。提出了一种基于正交波形的俯仰自适应波束形成算法用来抑制距离非平稳的近程杂波,而剩余的距离平稳的远程杂波由方位-多普勒STAP来抑制。所提俯仰波束形成算法能够有效地抑制近程杂波,同时可以保护远程目标。在滤除了距离非平稳的近程杂波后,杂波样本的距离平稳性得到明显的增强,能够为后续方位-多普勒STAP处理器提供独立同分布的训练样本,使其杂波抑制性能得到明显的改善。二、研究了非均匀环境下采用直接数据域STAP方法进行杂波抑制的问题。杂波功率上的非均匀会导致杂波抑制不够充分或者凹口过深,而离散杂波则容易导致虚警,密集动目标环境则容易引起STAP自适应方向图畸变和目标自相消。理论上直接数据域方法能够解决上述杂波非均匀的问题。但传统的直接数据域方法存在空时孔径损失和受阵列结构限制等问题,提出了一种基于迭代自适应谱估计算法的直接数据域STAP方法。该方法能有效避开传统统计类STAP算法在非均匀环境下所面临的样本数不足和样本污染的难题,且无空时孔径损失,适用于任意形状的阵列。三、研究了机载雷达在密集欺骗式干扰环境下的杂波抑制问题(密集欺骗式干扰环境可看作是非均匀环境的一种特殊情况)。机载雷达欺骗式旁瓣干扰容易引起大量虚警,使雷达跟踪数据处理器饱和。而欺骗式主瓣干扰不仅会引起大量虚警,还会污染空时自适应处理器的训练样本,引起自适应方向图畸变,导致期望信号相消和杂波抑制性能下降。利用目标信号与欺骗式干扰信号极化特性或者空间达到角的差异,提出了一种极化-空域联合自适应波束形成算法来抑制欺骗式主瓣或旁瓣干扰。在增加了极化辅助通道的基础上,首先采用重叠滑窗的子阵合成方式进行极化-空域联合自适应波束形成,然后通过STAP抑制剩余的杂波。该方法可以有效地滤除密集欺骗式干扰,减少由其引起的虚警,减轻后续雷达数据处理器的负担,改善机载STAP雷达的杂波抑制性能。四、研究了机载前视阵雷达检测近距离地面运动目标时的杂波抑制问题。机载前视阵雷达的近程杂波具有很强的距离非平稳性,易使STAP的杂波抑制性能下降。在采用中脉冲重复频率探测近距离运动目标时,模糊的远程杂波会带来额外的盲速。基于谱补偿的STAP算法可以用来对付距离非平稳的近程杂波,但它们忽略了模糊的远程杂波的影响。提出了一种高效的基于波束空间的俯仰预滤波算法来滤除远程杂波,从而消除远程杂波对目标检测的影响。所提俯仰波束形成算法不仅具有很好的远程杂波抑制性能,还具有保护近程目标信号不受损失的优点。该算法不仅能够有效消除由远程杂波带来的额外盲速,还能够改善后续STAP的杂波抑制性能。另外,所提基于波束空间的降维自适应波束形成算法不仅能够加快收敛速度,还能够降低运算量,有利于工程实时实现。五、研究了单基地MIMO雷达目标波达方向(Direction of Arrival,DOA)估计的问题。在低信噪比、低快拍数的情况下,常规DOA估计算法的性能会严重下降。针对此问题,提出了一种新的DOA估计算法:降维酉ESPRIT算法。该算法首先通过降维变换将MIMO雷达数据变换至低维信号空间,然后在该低维信号空间构造实值旋转不变性方程估计目标的DOA。该方法能够在低信噪比、低快拍数的恶劣环境下获得较常规ESPRIT方法更高的DOA估计精度,同时具有更低的运算量。