低慢小目标具有低空飞行、飞行速度慢、雷达截面积小的特点。对低慢小目标的检测研究在重大活动的安保、空中监管、以及对低慢小作战武器的防护等领域具有重大的军事意义和应用价值。然而采用声学、光学等手段很难检测低慢小目标,地基雷达也难以实现检测远距离的低慢小目标。针对复合高斯杂波环境下,机载雷达检测低慢小目标时,存在训练样本不足、多普勒拓展现象严重、信杂比较低等问题,利用多维子空间模型、极化域检测算法和各类先验知识来提高检测性能。本文主要研究成果如下:1、建立了机载雷达检测低慢小目标的几何模型和检测模型,分析了检测低慢小目标的难点问题;将杂波建模为复合高斯模型;介绍了自适应检测的原理和相关的检测准则;介绍了常用的杂波协方差矩阵估计方法,分析了各方法的适用情况,为后续的工作提供了理论基础。2、针对复合高斯杂波中检测多维子空间信号,有效训练样本不足,传统算法性能严重下降的问题,提出了基于知识辅助的目标信号子空间检测器。该检测器使用复合高斯模型来描述杂波,利用杂波协方差矩阵的斜对称结构,基于两步广义似然比检测准则,使用纹理分量的先验分布信息得到协方差矩阵的精确最大似然估计,然后代入似然比得到知识辅助的目标信号子空间检测器。仿真表明,该检测器比传统的未使用斜对称结构的检测器具有更优良的检测性能,同时通过仿真分析了协方差矩阵估计方法和先验信息失配对检测性能的影响。3、针对复合高斯杂波中检测低慢小目标,信杂比较低,极化通道相互影响等问题,提出了基于知识辅助的极化自适应检测器。首先将杂波建模成纹理分量为逆伽马分布的复合高斯模型,基于Rao检测准则,得到检验统计量,并在极化通道相互影响的情况下,推导出纹理分量的精确最大似然估计,然后使用杂波极化散射矩阵的先验信息推导出知识辅助的极化检测器。仿真分析了不同的纹理分量估计方法和先验信息失配对检测性能的影响,仿真表明,该检测器比不考虑极化通道影响的检测器具有更优良的检测性能。4、针对非均匀杂波环境下自适应检测低慢小目标时,信号特征难提取、有效训练样本受限等问题,将低慢小目标建模为多维子空间模型,提出了基于多先验谱模型的低慢小目标子空间检测器。该检测器利用多先验谱模型的线性组合来表示杂波协方差矩阵的逆,能在均匀和非均匀杂波背景下检测低慢小目标。仿真表明,该检测器比基于渐进最大似然估计的检测器以及单独利用多先验谱或子空间的检测器性能更好,并且在训练样本数较少且杂波非均匀的情况下也能保持很好的性能。