多输入多输出雷达是以MIMO通信技术为基础建立起来的一种新型雷达体制。MIMO雷达系统通过发射天线发射一组相互正交的信号,从而在空间中形成宽带的非指向性波束,然后通过多天线接收回波信号并进行处理。由于波形分集技术被采用到MIMO雷达中,使得MIMO雷达系统能一定程度弥补传统相控阵雷达的不足,如改善目标分辨力性能、增强干扰抑制能力、提高系统自由度、发射方向图的灵活设计等。由于MIMO雷达的诸多优势,近年来出现了大量基于理想情况下的阵列模型的MIMO雷达的超分辨率算法,而实际工程中阵元间的互耦效应将使得算法性能严重下降,所以存在未知互耦效应的MIMO雷达超分辨率算法成为近年来的研究趋势。本文以单输入多输出系统为基础,围绕集中式MIMO雷达,着重对该雷达系统中的波达方向(DOA)估计算法设计、阵元间未知耦合效应及去耦合技术等问题开展研究。主要研究内容及贡献可概括为如下三个方面:1.介绍单输入雷达系统的波达方向估计模型。研究以在网格(on-grid)DOA估计模型为基础的MUSIC算法和ESPRIT算法和以离网格(off-grid)DOA估计模型为基础的稀疏贝叶斯学习算法(OGSBI)。通过仿真实验,描述了离网格DOA估计模型较在网格模型在DOA估计上的性能优势。2.介绍了MIMO雷达系统的在网格DOA估计模型,匹配滤波方法以及MUSIC算法和ESPRIT算法在MIMO雷达系统中的应用。提出一种降维变换的方法对匹配数据进行压缩,得到MIMO雷达系统方向矩阵的Vandermonde结构,然后建立稀疏模型,将DOA估计问题与离网格优化问题联系起来,并利用根植稀疏贝叶斯学习算法(OGRSBL)求解MIMO雷达系统DOA估计。3.研究了阵元间未知互耦的在DOA估计模型中的表达方式以及存在未知互耦效应的MIMO雷达系统DOA在网格与离网格估计模型。研究了存在未知互耦效应时的稀疏贝叶斯学习算法,该方法通过最大后验算法估计了包括DOA,未知互耦等所有未知参数。为减少算法计算复杂度,提出了一种网格进化方法。该方法通过设置粗糙的初始网格,在迭代学习的过程中在可能存在估计目标的位置不断分裂出新的网格。通过严格设置网格的分裂条件,做到网格的最优分裂。从而减少在离网格DOA估计模型中的网格数量,从而降低计算复杂度。