波达方向(DOA)估计是阵列信号处理中的一项重要研究内容。杂波环境中,目标回波强度往往远小于杂波,这会导致目标DOA估计性能下降。多输入多输出(MIMO)雷达利用多个发射天线独立发射不同的波形并将多个接收天线接收到的信号进行联合处理,可以提高目标参数估计性能。此外,宽带信号目标回波携带信息量大,抗干扰能力强,有利于杂波环境中目标检测、参数估计和特征提取等。于是,本文研究杂波环境中的MIMO雷达宽带DOA估计问题,并提出一种波束形成后基于压缩感知(WCSAB)的宽带DOA估计方法,可获得比传统的宽带Capon技术(WCT)更好的性能。实际工程中,由于系统复杂度和成本等约束,可用的天线个数可能是有限的,在天线数受限情况下,采用传统的满阵结构可能无法得到足够高的DOA分辨率。为了解决这一问题,这里引入了稀疏阵列,并将WCSAB宽带DOA估计方法扩展到稀疏阵列情况。考虑到DOA估计性能不仅与波束形成权值有关,还与稀疏阵列结构有关,本文构造了基于最小贝叶斯均方误差(BMSE)的波束形成权值和稀疏阵列联合优化问题模型。鉴于该问题是一个组合优化问题,提出一种基于迭代算法的波束形成权值和稀疏阵列联合优化方法。结果表明,由本文算法设计出的稀疏阵列与最优稀疏阵列性能接近,且比嵌套阵、互质阵性能更好。尽管迭代算法用于求解波束形成权重和稀疏阵列联合优化问题是非常有效的,但是算法中涉及到矩阵求逆等过程,计算复杂度较高。深度神经网络(DNN)在保证高精度的同时,能够从训练集中自动提取特征,不仅如此,还可以降低计算复杂度,尤其是解决组合优化问题非常有优势。因此,本文构建与联合优化问题模型匹配的DNN结构,将联合优化问题中的目标函数和约束作为网络的损失函数,联合优化问题的解看作网络中的连接权重,通过训练神经网络来求解联合优化问题。网络的精度越高,则DOA估计性能越好,通过仿真实验,给出了DNN的精度。结果表明,在高信噪比(SNR)和信杂比(SCR)场景中,稀疏阵列下的网络测试精度与满阵情况下接近。