随着工作环境的日益复杂化,雷达面临的挑战日益严峻,因此研究和探索性能更为优良的目标检测算法至关重要。作为一种新体制雷达,多输入多输出(Multiple-Input Multiple-Output,MIMO)雷达凭借着自身的独特优势,近年来成为雷达领域的一个研究热点。有别于传统的相控阵雷达,MIMO雷达各发射阵元发射相互独立甚至正交的波形,从而获得波形分集性能,可以得到更为全面的目标信息,进而提高雷达的目标检测性能。本文主要针对MIMO雷达的自适应检测问题展开研究,利用杂波的先验知识进行检测算法的设计。本文主要工作与贡献如下:1、介绍了MIMO雷达的基本原理,建立了MIMO雷达的信号模型。然后,对MIMO雷达的信号处理流程进行了详细阐述。对实测的雷达数据进行了统计分析,包括幅度特性和功率谱特性,然后利用实测数据进行了实验,结果表明与自适应检测算法相比,传统的信号处理方法虚警较多。2、在高斯杂波背景下,研究了基于杂波协方差矩阵结构的MIMO雷达自适应检测算法。根据广义似然比检验(Generalized Likelihood Ratio Test,GLRT)和Rao检验,利用杂波协方差矩阵的中央共轭对称特性,设计了三种自适应检测器,这些检测器在实际中不需要训练数据,而且推导了检测器的虚警概率和检测概率的理论表达式,并使用蒙特卡洛仿真验证了推导结果的正确性。虚警概率的理论表达式说明提出的检测器对于杂波协方差矩阵具有恒虚警率(Constant False Alarm Rate,CFAR)性。仿真数据和实测数据均表明所提出的检测器的性能优于传统的自适应检测器。三种检测器中P-AMF检测算法在失配情况下最稳健。另外,提出了一种two-stage检测器,P-AMF与P-Rao检测器分别作为第一和第二阶段的检测器。通过选择不同的门限对,two-stage检测器的鲁棒性或选择性可以进行调节。3、在高斯杂波背景下,研究了基于Bayesian理论的MIMO雷达自适应检测算法。将杂波的协方差矩阵建模为未知随机的变量,并指定逆复Wishart分布为其先验分布。根据GLRT,Rao和Wald检验准则,提出了Bayesian框架下的三种自适应检测器。所提出的检测器具有两个显著优点:1)不需要训练数据;2)杂波的先验知识包含在检测器设计中,从而可以获得性能增益。仿真结果表明提出的Bayesian检测器的性能优于非Bayesain检测器,特别是在发射波形采样数较小的情形下。在接收导向矢量失配时,提出的Bayesain Wald检测器具有最强的鲁棒性,而Bayesian Rao检测器抑制失配信号的性能最好。