地面运动目标检测是机载雷达的重要任务之一。由于载机的运动和工作在下视模式,机载雷达接收信号中杂波功率较强且多普勒展宽,因此会掩盖运动目标。空时自适应处理（STAP）可以根据样本数据中的杂波统计信息对其有效抑制,从而提高输出信杂噪比,达到运动目标检测的目的。因此,STAP方法在机载雷达的运动目标检测领域得到了广泛的应用。经典STAP方法需要大量独立同分布样本来估计杂波的分布信息,同时计算复杂度较高。实际上由于雷达参数误差、阵列几何结构误差、杂波环境快速变化等非理想因素的限制,检测系统很难得到足够多的样本来确保STAP性能达到期望水平。特别是在小样本、非均匀、非平稳的条件下,传统STAP方法的性能会急剧下降,难以实现有效的运动目标检测。本论文针对小样本、非均匀、非平稳条件下杂波统计信息难以获取,以及样本中的离群点容易造成动目标相消等问题,利用了杂波子空间的低秩特性以及杂波在角度-多普勒平面上稀疏分布的特点,研究了基于稀疏性的稳健STAP方法,提高了复杂电磁环境中的杂波抑制能力、运动目标检测能力以及算法稳健性。论文首先阐述了机载雷达STAP方法面临的主要问题,分类总结了现有STAP方法的特点和不足,然后对机载雷达空时信号的稀疏性进行了直观解释和理论分析。在此基础上,提出了基于稀疏滤波器、基于知识辅助稀疏恢复、基于多快拍联合处理和基于S变换等的STAP算法。研究的主要算法概括如下:1、针对传统STAP算法需要样本数目较多、计算量较大的问题,提出了基于稀疏滤波器的STAP算法。对于广义旁瓣相消结构的滤波器,首先分析了滤波权的稀疏性,然后在最小输出方差最优化问题中加入对滤波权的l₁范数约束,得到了新的代价函数。为了避免矩阵求逆引起的计算复杂度高的问题,本文分别提出了基于迭代最小二乘和最小均方误差的权值更新算法。针对传统稀疏滤波方法中采用固定正则化因子难以达到最优滤波效果的缺陷,本文提出了自适应计算正则化因子的方法。根据每次迭代的样本数据,由最小化输出方差自适应确定正则化因子,可以提高算法的收敛速度和输出信杂噪比。另外,本文对于直接滤波结构也提出了稀疏滤波算法,在传统线性约束最小方差准则中增加对滤波权的l₁范数约束,并通过迭代最小二乘方法更新滤波权,同时还提出了自适应计算正则化因子的方法,通过理论分析证明了合适的正则化因子可以提高滤波器的输出信杂噪比。2、针对传统STAP方法在训练样本很少且离群点密集分布的条件下运动目标检测能力较差的问题,提出了基于知识辅助的稀疏恢复稳健STAP算法。该算法主要利用正侧视均匀线阵的杂波分布先验知识构建理想杂波空时导向矢量,然后对样本进行稀疏恢复以获取系数向量,并计算系数向量中显著值对应的导向矢量与理想杂波导向矢量之间的相似度,一旦二者的相似度超过给定门限,则认为该显著值对应于杂波。将所有杂波元素挑选出来后可以估计杂波功率谱,并计算最优滤波权。通过相似度及其门限,可以将样本中包含的离群点剔除,有效克服动目标相消问题。考虑到非正侧视阵的杂波分布具有距离依赖性而无法直接利用相邻距离单元的样本估计杂波特性的问题,本文还提出了基于知识辅助的直接数据域STAP算法。为了突破传统直接数据域方法必须已知运动目标先验信息的限制,该算法在对待检测快拍进行稀疏恢复之后,利用杂波分布的先验信息将系数向量中的杂波元素剔除,然后通过剩余元素判断是否包含运动目标,因此无需知道运动目标的先验信息。该算法可以将杂波和运动目标直接分离,提高了目标的检测能力。由于不需要进行空时子孔径平滑,基于知识辅助的直接数据域方法可以很容易推广到其他类型的阵列雷达中。3、针对训练样本较少且包含离群点的情况,研究了基于多快拍联合稀疏恢复的稳健STAP算法。该算法主要利用相邻距离单元快拍数据中杂波分布近似相同的特性,通过联合处理多个快拍稀疏恢复之后的系数向量来抑制离群点。算法首先使用多个快拍的稀疏恢复系数向量联合计算l₂范数,以突出杂波元素的位置,然后对系数向量中的显著值进行高斯加权以抑制离群点的影响,最后估计杂波协方差矩阵并计算滤波权。本文还针对传统迭代自适应方法由于迭代次数较多而导致计算量较大的问题,提出了基于稀疏约束和字典校正的迭代自适应算法。该算法在加权最小二乘模型中增加了对杂波系数向量的稀疏约束,并利用噪声门限选择需要迭代更新的杂波元素,有效降低了每次迭代的计算量。为了克服固定字典带来的“对不准”问题,该算法通过字典校正过程修正杂波元素对应的空时导向矢量,可以提高杂波功率谱的估计精度,加快迭代算法的收敛速度。4、针对杂波分布先验知识难以获取且样本中包含离群点的情况,提出了基于S变换的稳健STAP算法。该算法考虑在机载雷达杂波分布的先验知识不易获取的情况下,如果训练样本中包含离群点,则会出现动目标相消问题。通常杂波在每个样本快拍中均存在且随机分布,而离群点只出现在个别快拍中,因此它们的时频分布特征不同。对于每个阵元在每个脉冲接收的所有距离单元的回波数据进行S变换可以得到时频分布矩阵。通过推导发现,杂波的时频分布呈现随机特性,而离群点的时频分布在时间上孤立出现且集中在高频段。因此,可以舍弃部分高频分量以抑制离群点的影响,然后用剩余的时频矩阵估计杂波协方差矩阵,并进行自适应杂波抑制。通过时频变换的方法可以有效提高STAP的稳健性和运动目标检测能力。本文对于稀疏滤波器、基于知识辅助的稀疏恢复、基于多快拍联合稀疏处理和基于S变换的STAP方法的研究,为解决非均匀、小样本条件下运动目标检测的难题提供了新的途径,具有一定的理论和工程应用价值。