机载雷达目标检测是机载雷达任务中一个重要的分支,由于机载雷达所处的下视环境造成的杂波强度大、分布广的特点,再加上机载雷达杂波具有空时耦合性,使得杂波抑制难度较大。空时自适应处理（Space-Time Adaptive Processing,STAP）技术为机载雷达杂波抑制提供了一条有效的途径。STAP方法滤波性能的好坏取决于待检测距离单元杂波加噪声协方差矩阵的估计是否准确,而用于估计该矩阵的独立同分布训练样本在理论上至少为系统自由度的二倍,但由于实际杂波场景的复杂性,杂波存在非均匀或非平稳的特点,使得训练样本严重不足。为了解决小样本条件下STAP的性能损失问题,出现了一系列改进的方法,其中基于概率模型稀疏恢复STAP算法因其不需要设置超参数、对原子相关性的敏感性较弱等优点,在小样本条件下的滤波性能优于其他STAP算法,其中以稀疏贝叶斯学习STAP算法性能最优,但其仍然存在着许多问题,比如对噪声功率以及杂波脊原子估计不准确,在复杂杂波环境鲁棒性较差,收敛速度慢,运算复杂度高等问题。本文基于现有方法存在的问题,开展了基于贝叶斯稀疏变分自编码的STAP方法研究。本文第一章首先介绍了 STAP技术的研究背景,发展历史和发展现状,通过分析机载雷达杂波非均匀环境下的小样本问题引出稀疏恢复STAP技术。第二章中详细阐述了 STAP信号模型,STAP最优权向量的求解过程以及滤波过程,在此基础上介绍了稀疏STAP的理论基础和实现方式,并罗列出现有的基于稀疏恢复的STAP方法,分析了现有的稀疏恢复STAP方法理论基础、实现方式及其优缺点,在第二章的最后给出了 STAP滤波性能以及检测性能的评判准则。第三章主要介绍了基于贝叶斯稀疏变分自编码网络的STAP方法的生成模型部分,即贝叶斯分层稀疏模型,通过分析现有的基于概率模型的稀疏恢复STAP算法主要针对无噪环境的缺点,阐述了贝叶斯分层模型的建模思路,接着对在单观测及多观测向量情况下模型的搭建以及参数的更新公式,以及整个滤波检测过程做了具体的介绍,最后通过实验验证分析了贝叶斯分层稀疏模型非均匀杂波环境中的鲁棒性以及在的滤波和检测性能方面的优势。第四章主要介绍了基于贝叶斯稀疏变分自编码的STAP方法的编码部分,首先通过分析现有STAP方法收敛速度慢,运算复杂度高的问题以及变分自编码网络的理论依据和实现形式,阐述了贝叶斯稀疏变分自编码网络的建模思路,接着详细介绍了贝叶斯稀疏变分自编码网络的网络结构,损失函数以及网络的更新过程。最后通过实验对比分析了基于贝叶斯稀疏变分自编码网络在收敛速度和运算复杂度方面的优势,通过Mountaintop和MCARM数据集的性能和速度对比实验分析了贝叶斯稀疏变分自编码模型在不同数据集上的鲁棒性。第五章我们对本文的主要内容进行了总结概括,并且对未来的工作进行了展望。