波达方向(DOA)估计在许多阵列系统中有着极为重要的意义。当信号源相干时,信号协方差矩阵不再满秩,使得信号或者噪声子空间的估计不准确。同时,相干源也会给信源数检测带来困难。在这种情况下,常规的信源数检测算法不能提供准确的信源数信息。此外,在低信噪比、小快拍的情况下,多数子空间算法不能提供正确的DOA估计值,造成它们的均方误差急剧地偏离克拉美罗界。这种现象被称为“门限效应”,在信号源相干时表现得尤为明显。以上种种问题都会造成许多现有的DOA估计算法失效,从而无法提供可靠的DOA估计值。尽管空间平滑可以有效地处理相干源的DOA估计问题,但是它依旧存在许多缺点,例如,该方法需要知道相干信源数的先验信息来确定平滑次数;它是以损失阵列自由度为代价的,即在空间平滑后,阵列孔径存在较大的损失,造成后续的DOA估计算法无法实现最优估计。本文主要针对上述相干信源的DOA估计问题进行深入研究,相应的成果包括以下几点:1)针对相干源DOA估计空间平滑算法存在的阵列孔径损失问题,提出了一种用于基于主特征矢量分析(PUMA)的相干DOA估计算法,并对它进行了理论性能分析。该方法利用线性预测理论将DOA估计问题转化为一个一元多项式求根问题。PUMA在求解多项式系数时只需要两三次迭代即可获得较好的估计性能;而且每步迭代具有闭式解,使得它的复杂度很低,远小于ML算法。但是,PUMA保留了ML算法在高信噪比时的统计有效性。相比空间平滑算法,PUMA的优点是无需相干信源数的先验信息以及不存在阵列孔径损失的问题。由于PUMA算法可以最大化利用阵列的自由度,它可以分辨的相干信源数远大于空间平滑算法。在单信源情况下,本文证明了PUMA算法的最优统计特性,并提出了一种工作在实数域的酉PUMA算法来进一步降低复杂度。仿真结果证明了PUMA及其改进方法的有效性,同时验证了理论分析的正确性。2)针对相干源情况下信源数难以准确估计的问题,提出了两种无需信源数信息的DOA估计算法,分别用于解决空间白高斯噪声和空间相关高斯噪声下的相干信源DOA估计问题。第一个算法是针对空间白高斯噪声设计的,它通过选择样本协方差矩阵的行来构造一组具有联合对角结构的Toeplitz矩阵以达到去相干的目的;然后利用这一联合对角结构来设计无需信源数信息的DOA估计器。第二个算法的设计思路与第一个类似。其中最主要的区别在于该方法预先利用高阶累积量来处理空间相关高斯噪声;其次,通过构造联合对角结构的伪协方差矩阵来设计无需信源数信息的DOA估计算法。一般的,在相同的物理条件下,第二个算法的性能会好于前一个,但是复杂度也更高。3)针对低信噪比、小快拍的情况下DOA估计算法估计性能低的问题,提出了两种具有较好门限性能的相干DOA估计算法。i)提出了一种改进的PUMA算法,该方法首先利用PUMA生成多余两倍信源数的DOA候选值,然后利用最大似然代价函数从中自适应地挑选出最终的DOA估计值。这种改进的PUMA算法能够有效地改善PUMA在低信噪比时的门限性能,同时保留了PUMA在高信噪比时的最优估计特性。ii)提出了一种基于伪噪声重采样的分布式检测算法来提升现有DOA估计方法的门限性能,该方法的原理是利用外加噪声来扰动原有样本中所携带的噪声,从而改变子空间特征,以增加估计出真实DOA的概率。该方法可以多次利用同一样本来生成多组DOA估计值;通过设计合理的选择策略,从中选出最准确的一组作为最终的DOA估计值,以此来降低门限效应。计算机仿真实验验证了本文算法的有效性。