阵列信号处理在雷达、声纳、移动通信与超声波成像等领域有着广泛的应用前景,而波达方向估计是阵列信号处理领域中最重要的一个研究分支。阵列结构是波达方向估计的基础,最常用的是均匀线阵,然而均匀线阵若需提升估计性能,则需要通过增加天线数以获取更大孔径。互质线阵相比于均匀线阵,在相同天线数下拥有更大的孔径,从而在更低成本下获得更高的估计性能。目前基于互质线阵的波达方向估计方法主要分两类:第一类是差分共阵法,它试图在互质线阵中虚拟均匀线阵的结构,从而提升自由度,但是该方法需要大量的快拍数,计算也极其复杂;第二类是子阵列法,通过把互质线阵分解成两个均匀子阵列,然后引入均匀线阵的波达方向估计方法,极大的降低了复杂度,更具实际应用价值,但其自由度受限于子阵列,另外有模糊角产生影响其性能。最近提出的一种新阵列结构为非折叠互质线阵,这种阵列结构目前可用MUSIC方法进行波达方向估计,相比于传统互质线阵的子阵列法,它拥有完整的自由度,能够抑制模糊角等优点。本文通过进一步研究发现上述方法存在的不足:首先,MUSIC方法用于波达方向估计复杂度较高;其次,相比于传统的互质线阵分解成两个均匀子阵列,非折叠互质线阵不具备均匀特性,因此大部分波达方向估计方法不能被应用。针对MUSIC方法需要进行全角度域的谱峰搜索,从而导致复杂度高的问题,本文提出把求根MUSIC方法用于非折叠互质线阵中,求根MUSIC方法避免了谱峰搜索,在不损失估计性能的前提下,有效的降低了复杂度。针对非折叠互质线阵丧失了均匀性质的问题,本文通过对其自协方差矩阵进行Toeplitz重构,引入均匀线阵才有的性质,并把它与求根MUSIC方法结合用于波达方向估计,复杂度计算与仿真结果表明,本文提出的这一方法具有低复杂度,高分辨率的特点。针对MUSIC方法需要对协方差矩阵进行特征值分解,从而导致复杂度增加的问题,本文通过把协方差矩阵分解成两个子矩阵,构造正交算子代替协方差矩阵的特征值分解,尤其在天线数较多时,避免了对协方差矩阵的数学分解,使得复杂度显著降低,复杂度计算与仿真结果表明,本文提出的这一方法实现了估计性能与复杂度之间的平衡。