相比传统相控阵雷达系统,MIMO雷达在目标识别、检测以及参数估计、电子对抗等方面具有显著优势。其中,MIMO雷达的DOA估计是近年来发展迅速的一个研究热点。由于MIMO雷达目标信号相对整个观测空间具有高度稀疏性,故可以将压缩感知理论应用于MIMO雷达DOA估计。然而,传统基于压缩感知的MIMO雷达DOA估计算法通常将非凸非平滑稀疏表示问题近似成凸或平滑函数进行求解,而稀疏表示模型存在误差,这将导致DOA估计性能不理想。针对该问题,本文进行了以下研究工作,主要包括:（1）为避免传统基于压缩感知的MIMO雷达DOA估计算法中稀疏表示模型产生的近似误差导致DOA估计性能无法达到最优的问题,本文针对相干信源提出一种基于近端投影的MIMO雷达多测量矢量DOA估计方法。该方法首先对MIMO雷达回波数据进行降维变换以剔除冗余数据,并使用SVD分解降维后的数据以提取信号子空间,利用近端函数优化模型来表示MIMO雷达多测量矢量DOA估计中的非凸非平滑稀疏表示问题,然后采用SCAD惩罚函数获得近端算子以求解该模型。该方法在低快拍和低信噪比下,相干信源的DOA估计性能优于现有算法。（2）为了进一步促进近端投影算法解的稀疏性以获得更好的角度估计性能,同时避免加权SL0算法因预判目标个数错误而导致DOA估计性能下降,本文针对非相干信源提出一种基于加权近端投影的MIMO雷达单测量矢量DOA估计方法。该方法首先将降维后接收数据的协方差矩阵向量化,然后利用降维后协方差逆矩阵的高阶幂构造加权矩阵以对稀疏向量进行合适的权值约束,并建立加权近端函数优化模型来表示MIMO雷达DOA估计中非凸非平滑稀疏优化问题,最后在迭代过程中通过SCAD惩罚函数获得近端算子,并将其投影到可行集以求解加权函数优化模型。相较于加权l₁-SVD算法和加权SL0算法,该方法能获得较好的角度估计性能,且无需预知目标个数先验信息。（3）实现了基于LabVIEW平台的MIMO雷达DOA估计测试软件的开发。首先在前面板中设置相应的输入控件和输出控件,并在后面板构建测试DOA估计的程序框图,然后利用MATLAB Script节点调用改进的IPP算法对目标信号进行稀疏重构,最后通过前面板中输出控件XY波形图显示运算结果,从而完成MIMO雷达DOA估计测试软件的开发。