空间谱估计是阵列信号处理的一个重要研究方向，在雷达、声纳，制导等方面得到广泛的应用。基于子空间分解的高分辨率波达方向(Direction Of Arrival, DOA)估计算法以其优越的估计性能引起了广大学者的关注，但这些高分辨算法都涉及到协方差矩阵的计算及其特征值分解，计算复杂度高，且假设信号源间相互独立和没有干扰信号的条件下，而在实际的环境中，由于电磁波的传输路径极为复杂，不可避免的存在干扰信号和相干信号，因此，本文将研究在多径环境中存在干扰信号、相干信号以及单基地MIMO雷达背景下的DOA估计问题。首先研究空间谱估计的基本理论，给了空间谱估计的数学模型，并详细的介绍空间谱估计的信号模型和阵列模型。然后对空间谱的基本算法进行研究，介绍其基本原理，对其进行仿真和比较，总结出这些算法的估计性能。其次，对多径环境中存在干扰时，提出一种快速抗干扰的DOA估计算法。详细研究了多级维纳滤波器前向递推的特性以及阻塞矩阵抗干扰原理，通过理论分析和仿真验证了算法的抗干扰有效性和计算复杂度低。针对多径环境中存在相干信号时，首先介绍了空间平滑类算法的解相干原理，通过仿真分析和比较了该类算法的性能和优缺点。然后提出了一种基于酉变换的虚拟阵列解相干算法。本算法将酉变换和虚拟阵列技术相结合，避免了阵列孔径的损失，且使特征值分解在实数域进行，降低了运算复杂度。通过仿真结果表明，该算法具有良好的解相干性能，且估计性能优于空间平滑类算法和虚拟阵列算法。最后，以单基地MIMO雷达为背景，提出一种快速的单基地MIMO雷达DOA估计方法。该算法通过多级维纳滤波前向递推获得单基地MIMO雷达的信号子空间，从而构造出空间谱函数，并转化为求根形式进行求解，避免了协方差矩阵的特征值分解和空间谱搜索，大大降低了运算复杂度。仿真结果表明，该算法具有良好的估计性能。