机载雷达利用空时自适应处理（Space-Time Adaptive Processing,STAP）技术,能有效抑制地面杂波,提升动目标检测能力。杂波协方差矩阵的估计是机载雷达STAP的核心。然而传统STAP算法在非均匀杂波环境下面临着小样本难题,这将严重影响杂波协方差矩阵的估计精度,造成杂波抑制和动目标检测性能下降等问题。利用杂波与目标先验知识,如杂波协方差矩阵的低秩特性、结构知识等,能够消除回波信号中的冗余信息,减少未知参数数量,显著提高杂波协方差矩阵和未知参数的估计精度。另外,本文还针对基于知识辅助的STAP方法,如何有效地提升机载雷达对复杂环境的适应能力,增强动目标检测性能进行了研究。本文围绕上述内容展开研究,主要工作与贡献总结如下:（1）基于知识辅助的机载雷达训练样本选择算法针对训练样本被干扰目标污染引起的目标自消问题,分别提出了基于目标和杂波知识辅助的两种训练样本选择算法,可有效提高样本选择性能的稳健性。两种算法利用先验知识,分别通过杂波谱重构和杂波协方差矩阵的二阶谱结构,直接表征目标距离环（Cell Under Test,CUT）杂波特性,可确保CUT杂波特性的表征性能不受训练样本数量的限制,并且消除干扰目标对样本选择性能的影响。此外,所提出的两种样本选择算法分别以白化样本协方差矩阵的谱半径和杂波谱能量差异作为检验统计量,有效提高了样本选择的准确性。（2）基于知识辅助的机载相控阵雷达杂波协方差矩阵估计算法在小样本条件下,针对机载相控阵雷达利用离散字典估计杂波协方差矩阵时,存在的网格失配问题,本文提出了基于截断核范数的无网格杂波协方差矩阵估计算法。通过联合杂波协方差矩阵的低秩特性和Block-Toeplitz结构特征作为先验知识,实现在连续域估计杂波协方差矩阵,可有效解决基于离散字典的估计算法中存在的网格失配问题。在此基础上,提出了基于截断核范数的杂波秩近似表达方式,相比于核范数,能更准确的约束杂波秩,保证估计结果的收敛性。（3）基于知识辅助的机载多输入多输出（Multiple Input Multiple Output,MIMO）雷达杂波协方差矩阵估计算法针对小样本条件下机载MIMO雷达杂波协方差矩阵估计精度不足的问题,提出了基于多重结构知识的杂波协方差矩阵估计算法,充分利用MIMO雷达信号发射空域、接收空域和时域的双Kronecker积结构特征,并融合杂波协方差矩阵二阶谱结构特征,有效提高了小样本下杂波协方差矩阵的估计精度。此外,本文采用基于近似梯度下降算法求解多种结构知识约束的协方差矩阵估计问题,可实现杂波协方差矩阵估计的高效收敛。（4）基于知识辅助的直接数据域动目标检测算法针对非均匀杂波环境下训练样本不足导致的动目标检测性能下降问题,设计了基于知识辅助的直接数据域检测器,有效提高了无样本条件下的动目标检测性能。利用具有冗余基向量的杂波子空间和杂波协方差矩阵的结构特征作为先验知识,仅利用CUT的数据估计未知参数,保证检测性能不受非均匀杂波环境和杂波分布特性的影响,改善了复杂环境下的动目标检测能力。