现代雷达面临着越来越严苛的战场环境,但是现代战争对目标的定位精度要求却越来越高。由于目标的高速运行、电子干扰等原因,雷达得到的快拍数较少、信噪比（Signal to Noise Ratio,SNR）较低,对于远距离小目标的检测和跟踪使得信噪比的降低更为严重,利用阵列的稀疏性和信号的稀疏性可以有效地解决上述问题。利用阵列的稀疏性,雷达可以采用分布式结构,用较少的阵元数得到大的阵列孔径,从而提高雷达对目标的测向精度和分辨率。利用信号的空域稀疏性,稀疏恢复类算法进行DOA估计在复杂环境下（少快拍、低信噪比）可以取得良好的效果,然而稀疏恢复类算法计算量较大,难以满足实际需求。本文围绕分布式阵列雷达和低信噪比、少快拍等复杂环境下的目标波达方向（Direction of Arrival,DOA）估计问题展开研究,具体工作概括如下:第一部分针对现有的分布式阵列雷达子阵结构进行优化,提出了一种以nested阵列为子阵的分布式阵列,研究了分布式nested阵列结构和特点。利用分布式nested阵列的旋转不变性,在目标数较少时,提出使用多尺度ESPRIT（Estimation of Signal Parameters via Rotational Invariance Technique）算法对目标进行DOA估计,用MAP（Maximum a Posteriori）法分析了分布式nested阵列角度估计性能,进行了信噪比门限理论分析,并通过计算机仿真验证其有效性。仿真结果表明,分布式nested阵列由于引入了中间估计,提高了解模糊估计的精度,从而减小了对目标DOA估计的SNR门限。当目标数多于子阵阵元数时,先对阵列协方差矩阵向量化以提高自由度,然后采用空间平滑双尺度酉ESPRIT算法对目标进行DOA估计。仿真结果表明,分布式nested阵列可以对多目标进行高精度DOA估计。第二部分研究了多频点分布式阵列,利用多频点协方差矩阵对工作频点的阵列伴随阵空缺项进行补充,可以得到一个无空缺项的分布式阵列伴随阵。分析了多频点分布式阵列需要增加的频点数和需要工作在多频点的阵元,最后利用无空缺项的分布式阵列伴随阵采用空间平滑MUSIC（Multiple Signal Classification）算法对多目标进行DOA估计。仿真结果表明多频点分布式阵列可以同时对多目标进行高精度DOA估计。第三部分将复值阵列协方差矩阵通过酉变换转换为实值阵列协方差矩阵,对空域进行离散采样,并根据酉变换,构造实值导向矢量矩阵过完备集,实值阵列协方差矩阵可以在实值过完备集下稀疏表示。提出了一种低计算量的基于实值阵列协方差矩阵向量的?₁范数优化算法对稀疏能量向量进行恢复,并得到相应的目标DOA。将算法推广到非均匀噪声环境下的DOA估计问题,通过去除实值阵列协方差矩阵向量中的噪声项来减小非均匀噪声的影响。仿真结果表明,所提算法可以有效地估计出目标的DOA,且算法在低信噪比和少快拍等情况下有良好的效果。当目标处于非均匀噪声环境下时,所提算法仍然可以有效地估计出目标DOA。第四部分,为了减少稀疏贝叶斯学习（Sparse Bayesian Learning,SBL）类DOA估计算法计算量,提出了基于实值阵列协方差矩阵的稀疏贝叶斯学习DOA估计算法。信号为非相干时,利用实值阵列协方差矩阵向量进行稀疏恢复,提出了USMV CV-RVM（Unitary Single Measurement Vector Covariance Vector-based Relevance Vector Machine）算法进行DOA估计;信号为相干信号时,利用实值阵列协方差矩阵的联合稀疏特性进行稀疏恢复,将DOA估计问题转换为稀疏恢复类的MMV（Multiple Measurement Vectors）问题,并提出UMMV CV-RVM（Unitary Multiple Measurement Vectors Covariance Vector-based Relevance Vector Machine）算法进行DOA估计。分析了实值稀疏贝叶斯学习DOA估计算法可估计目标数。仿真结果表明,在非相干信号条件下,USMV CV-RVM算法的性能和SMV CV-RVM算法相当,但是具有更小的计算量,且在低SNR和少快拍情况下,具有更好的性能。在相干信号条件下,由于酉变换具有进一步解相干的功能,所以UMMV CV-RVM算法的性能较MMV CV-RVM得到进一步提高。第五部分,研究了宽带稀疏贝叶斯学习DOA估计算法,将宽带信号DOA估计问题建模成一个块稀疏恢复问题。根据稀疏贝叶斯学习算法的特点,将信号相对功率谱估计融入到稀疏贝叶斯学习算法的迭代过程中,推导了相对功率谱的迭代公式,提出了宽带稀疏贝叶斯学习算法同时对目标进行DOA和相对功率谱估计。所提算法在低信噪比和少快拍情况下对宽带信号有较好的DOA估计效果,且可以有效地估计出信号相对功率谱。对算法的计算量进行分析,所提算法与MSBL算法计算量相当,由于估计的信号相对功率谱促进了算法的收敛速度,所以所提算法在仿真中速度稍快于MSBL算法。