空间谱表示信号在空间各个方向上的能量分布,得到信号的空间谱就能得到信号的波达方向(Derection of Arrival,DOA)。空间谱估计是阵列信号处理领域中的一个重要研究方向,又被称为波达方向估计或测向,其应用涉及雷达、通信、声纳、地震以及生物医学工程等众多民用、军用领域。近年来,随着AM、PAM、BPSK、MASK、ASK等非圆信号在通信领域中的广泛应用,基于非圆信号的DOA估计技术已成为测向领域中的研究热点。本文所做的主要工作包括:首先介绍了空间谱估计的研究现状和发展历程,详细阐述了相干信号DOA估计的经典算法和近年重点研究的新方法,给出了基于非圆信号的MUSIC算法和ESPRIT算法。其次,研究了利用最小冗余线阵估计非圆信号的测向问题。最小冗余线阵具有阵列孔径相对较大、阵列分辨力相对较高的特点,采用最小冗余线阵估计非圆信号,再结合非圆特性,可以进一步提升阵元的利用效率,以更小的阵元数目形成更大的天线孔径,在避免可视区内出现栅瓣,大幅度降低互耦的情况下,从而使阵列取得良好的DOA估计鲁棒性。再次,研究了基于特征空间算法的非圆相干信源估计问题。针对非圆相干信号的解相干问题,给出了一种新的特征空间算法(ES-DOA)。将信息量加倍后的协方差矩阵加以重构,利用特征空间算法解相干,最大限度地利用了噪声子空间与信号子空间的信息,避免了空间平滑思想存在阵列孔径损失、最大似然类算法计算量太大的问题。该算法还对信号源功率进行了估计,提高了对小能量信号的估计成功概率。最后,研究了基于最大特征值算法的非圆相干信源估计问题。利用数据协方差矩阵与导向矢量间的线性组合关系重新构造协方差矩阵,对矩阵分解后采用MUSIC算法进行谱峰搜索。该算法仅利用最大特征矢量的信息即实现了解相干,很大程度地降低了解相干的运算量,且具有较好的稳定性和有效性。