伴随着雷达技术的发展及其在民用领域的应用,机载雷达的轻重量、低成本、低功耗及高性能等需求已成为人们关注的焦点。现有的大多数机载雷达阵列按照奈奎斯特采样均匀配置,导致高频段高分辨力的雷达系统阵元数较多、系统复杂、阵列互耦严重、功耗高、成本较高。稀疏阵列（如最小冗余阵、嵌套阵、互质阵等）通过稀疏布置阵元,能够得到比实际阵元更多的虚拟阵元和更大的孔径,可为机载雷达小质量、高频段、低成本、低功耗和低互耦发展提供一种有效解决方案。相比最小冗余阵列,嵌套和互质阵列有明确的阵元位置表达式,实现简单,迅速成为了研究热点。相比嵌套阵列,互质阵列最小阵元间距较大,阵元间的阵元互耦影响较小。同时,空时自适应处理（Space-Time Adaptive Processing,STAP）是机载雷达进行杂波/干扰抑制、改善目标检测性能的关键技术。然而,由于互质阵列属于稀疏采样方式,互质阵列STAP杂波抑制技术存在以下难点问题:（1）稀疏采样造成杂波/干扰自由度增加,传统的均匀阵列杂波秩估计方法不再适用;（2）由于互质阵列接收信号模型等效的虚拟信号模型是一个秩为1（单快拍）的列矢量,包含均匀采样和非均匀采样信息,传统的按距离维样本采用最大似然估计协方差矩阵的方法不再适用;（3）阵列误差的存在将会使互质阵列虚拟等效信号模型发生变化、阵列误差下稳健方法设计变得复杂化。因此,本文以机载互质阵列雷达为背景,针对机载互质阵列雷达杂波抑制的难点问题,研究机载互质阵列雷达杂波抑制STAP方法,主要内容和创新点如下:（1）研究了机载互质阵列雷达虚拟等效信号模型及杂波秩估计。利用互质阵列可增加自由度和增大孔径的特性,建立无阵列误差和阵列误差下的虚拟等效信号模型。在此模型基础上,针对机载雷达参数和状态完全已知的情况,给出了理想情况下杂波秩的估计;针对实际雷达状态存在测量误差的情况,利用二维空时信号模型可表示成一维等效空域信号模型的思想,提出了一种基于带宽孔径积的稳健杂波秩估计方法。仿真结果验证了杂波秩估计的有效性。（2）研究了互质阵列空时平滑STAP方法。针对单快拍虚拟等效信号模型不能利用最大似然估计协方差矩阵的问题,提出了基于空时平滑的互质阵列STAP方法。该方法利用空时平滑技术将一个长的单样本变成多个较短的样本,进而解决了杂波/干扰协方差矩阵无法依赖一个样本进行估计的问题。仿真结果表明:所提出的互质阵列空时平滑STAP方法在样本数较多的情况下可以获得远优于相同阵元数的均匀阵列STAP方法。进一步,针对上述方法,从理论上分析了虚拟快拍和空时平滑协方差矩阵的估计误差的统计性能。结论表明:虚拟快拍估计误差随着训练样本数的增加而减少,随着杂噪比Clutter-to-Noise Ratio,CNR)的增加呈指数增加,且收敛到一个大于零的正数。针对上述方法所需样本数较多的问题,引入降维的思想,推导了一种降维的次优方法。（3）研究了互质阵列稀疏STAP方法。针对互质阵列空时平滑STAP方法自由度利用不充分和收敛性慢的问题,提出了基于稀疏的互质阵列STAP方法和基于知识的两阶降维稳健稀疏STAP方法。基于稀疏的互质阵列STAP方法利用杂波的稀疏性将虚拟等效信号模型表示为稀疏表征模型,并利用高分辨力的稀疏恢复方法重构协方差矩阵,提高了干扰协方差矩阵估计的准确性。实验结果表明:该方法在小样本下能获得比空时平滑STAP方法更好的杂波抑制性能。基于知识的两阶降维稳健稀疏STAP方法利用多普勒域降维和不准确的先验知识推导了二阶降维稀疏表征模型,减少了稀疏表征字典的维度;推导了一种OMP类似方法估计杂波子空间,克服了传统STAP方法要求对协方差矩阵求逆的问题。最后,实验结果验证了上述方法的有效性。（4）研究了阵列误差下互质阵列稳健STAP方法。互质阵列STAP方法在实际雷达存在阵列误差时,因假定的信号模型与实际模型失配,造成杂波抑制性能下降。基于此,提出了阵列误差下基于阵列误差交替迭代的稳健稀疏STAP方法和基于交替方向乘子法（Alternating Direction Method of Multiplier,ADMM）的稳健稀疏STAP方法。基于阵列误差交替迭代的稳健稀疏STAP方法利用聚焦欠定系统求解法（Focal Underdetermined System Solver,FOCUSS）和最小二乘（Least Squares,LS）算法交替迭代估计出杂波功率谱和阵列误差,然后计算协方差矩阵。基于ADMM的稳健稀疏STAP方法利用ADMM框架将计算复杂度较高的杂波功率谱和阵列误差优化问题变换为几个计算复度低的子优化问题,降低了基于阵列误差交替迭代的稳健稀疏STAP方法的复杂度。仿真结果表明:所提出的方法在一定的杂波环境下可实现对阵列误差的稳健性。综上所述,本文所研究的机载互质阵列雷达杂波抑制的STAP技术可为低成本、低互耦、高频段的小型化机载雷达系统提供技术支撑。