多输入多输出(Multiple-Input Multiple-Output, MIMO)雷达是在MIMO通信技术基础上发展起来的一种新体制雷达,并以其在目标检测、跟踪、识别和参数估计等方面所具有的巨大性能优势,成为近十年来雷达研究领域的热点。与传统相控阵雷达不同,MIMO雷达利用多天线同步发射一组相互正交的波形照射目标,并利用多天线接收处理目标回波信号。由于MIMO雷达所采用的波形分集技术,使得该体制雷达具有传统相控阵雷达所不具备的多项性能优势,如目标分辨性能的改善、系统自由度的提高、干扰抑制能力的增强、发射方向图的灵活设计等。根据天线配置结构的不同,可将MIMO雷达分为分布式和集中式两大类。分布式MIMO雷达中,各天线相对于目标的视线角存在明显差异,因而具备良好的空间分集增益；集中式MIMO雷达中,虽然各天线相对于目标的视线角近似相等,但仍可利用良好的波形分集增益来获得系统性能的提升。本文围绕集中式MIMO雷达,着重对该雷达系统中的阵列结构优化、稀疏波达方向(Direction-of-Arrival, DOA)估计算法设计、稳健自适应波束形成算法设计、稀疏成像算法设计等问题开展研究。主要贡献可概括为如下四个方面：第一部分,针对传统均匀布阵MIMO雷达可分辨目标数受限于虚拟阵元数的问题,作者提出一种基于嵌套阵的MIMO雷达阵列结构设计新方法并研究了相应的稀疏DOA估计算法。应用该新型MIMO雷达阵列结构,可分辨的独立目标数可以大于虚拟阵元数,造成这一可利用自由度增加之现象的本质原因在于：该系统通过合理配置MIMO雷达的收发阵列结构,使其等效虚拟阵元(通过一组匹配滤波器在接收端对所有正交发射波形进行分离得到)的空间分布符合嵌套阵的排列规则,同时对虚拟阵列接收数据的协方差矩阵进行向量化操作,使该协方差向量等效为一个孔径扩展的均匀线阵(也可称作上述虚拟阵列的差合阵列)的单快拍测量矢量。由于嵌套阵列结构的特殊性,使得该差合阵列的自由度远大于原始虚拟阵列,因而可应用于欠定DOA估计场合。另一方面,针对传统子空间类算法在该单测量矢量信号环境中失效的问题,作者基于稀疏贝叶斯学习准则发展了一种有效的高分辨DOA估计算法,该算法继承了稀疏重构类方法在信号环境适应能力和测向精度方面的优势,同时借助一组运算复杂度较低的多项式求根过程来消除离散角度集在测向结果中所引入的量化误差。第二部分,将互质阵的概念引入到MIMO雷达收发天线的配置选择问题中。与第一部分所采用的设计准则类似,通过优化MIMO雷达的收发阵列结构,使该系统的虚拟阵元位置满足互质阵的空间分布形式,从而充分利用互质阵在相关域的自由度扩展特性,以突破虚拟阵元数目对MIMO雷达最大可分辨目标数的限制。与嵌套阵不同,互质阵的差合阵列是非均匀阵,若直接应用已有的基于空间平滑的子空间类方法进行DOA估计,会造成对上述差合阵列自由度信息不充分利用的后果。为了解决此问题,与第一部分类似,鉴于稀疏重构类算法对任意阵列结构的适用性,作者将稀疏贝叶斯学习的思想推广到互质MIMO雷达的DOA估计问题中。需要指出,为了加速算法收敛至全局最优解,作者基于MM(Majorization-Minimization)准则推导出了稀疏贝叶斯学习过程中超参数的迭代更新公式。此外,为了消除稀疏重构类算法中所固有的模型量化误差,作者采用一种异于第一部分所述算法的解决途径一即通过迭代更新离散角度集,使其最终与理想的稀疏字典相匹配。第三部分主要研究了MIMO雷达的稳健自适应波束形成技术。作者将传统相控阵雷达的稳健自适应波束形成器设计准则推广到MIMO雷达中,充分利用了MIMO雷达虚拟阵列的高自由度。所提出的稳健自适应波束形成算法的核心在于有效重构干扰-噪声协方差矩阵和精确预估目标导向矢量。具体来讲,干扰-噪声协方差矩阵可通过将接收数据协方差矩阵投影到干扰-噪声子空间或将目标分量从接收数据协方差矩阵中消去得到；目标真实导向矢量可通过解一组新构建的优化问题(此优化问题的目标函数为最小化波束形成器敏感度)得到。需要指出,作者采用运算复杂度较低的拉格朗日乘子法求解上述优化问题,且最终估计出的目标导向矢量具有精确的闭式解。经过如上操作,作者所设计出的稳健自适应波束形成器在非理想信号环境中具有较强的适用性。此外,作者所提出的稳健波束形成算法也可契合嵌套MIMO雷达、互质MIMO雷达信号模型,因而能够解决非理想信号环境中的欠定干扰抑制问题。第四部分,作者充分利用雷达目标分布的稀疏性和压缩感知信息处理的巨大优势,重点研究了基于压缩感知的MIMO雷达稀疏成像技术。首先,针对线性调频和跳频两种波形分集方式,作者建立了相应集中式MIMO雷达系统的回波模型,并从模糊函数的角度分析了两种发射波形对成像效果的影响。其次,从校正连续成像场景的离散化网格与真实目标散射点之间存在的网格失配误差的角度出发,作者将基于泰勒近似技术的改进型SLIM(Sparse Learning via Iterative Minimization)算法引入MIMO雷达稀疏成像领域,该算法减轻了经典稀疏重构算法对离散网格的依赖性,有效改善了成像质量。