空间谱估计作为阵列信号处理的一个重要分支，其目的是确定空间中入射源信号的来向。经典的DOA估计算法大都基于精准阵列流型，而没有考虑实际应用中不可忽略的互耦效应等因素，导致其实测性能大幅降低。因此，研究互耦情况下的测向算法具有重要的实用价值。此外，由入射源信号的统计特性，可将其分为圆信号和非圆信号。目前大多数算法默认入射源信号是圆信号，只利用其协方差非零的特点完成测向操作，导致可探测最大入射源数目少于阵元个数。非圆信号的协方差和椭圆协方差均非零，因此有望利用入射源信号的非圆特性来提升测向算法的性能。
　　针对互耦情况下均匀线阵对一般信号的测向问题，本文提出了一种基于原子范数理论框架的无网格DOA估计算法。该算法先通过变换函数将待估角度转化为待估频率；然后利用选择矩阵对原始接收信号进行截断并对截断信号的导向矢量进行重构以获得原子；接着求解半正定规划问题得到截断信号的结构化协方差矩阵，并将ESPRIT算法应用于该矩阵求得待估频率。仿真表明，在低信噪比和少快拍情况下，该算法的性能更具优势。
　　针对互耦情况下均匀线阵对严格非圆信号的测向问题，本文提出了一种基于非圆特性的扩展ESPRIT算法。该算法通过在原始阵列的两端增加辅助阵元来补偿原始互耦系数矩阵的结构；接着利用非圆特性对新阵列中间子阵的接收信号求共轭；然后将该接收信号及其共轭信号级联得到扩展信号，并将ESPRIT算法应用于扩展信号求得待估角度。实验表明该算法具有较大的虚拟阵列孔径和较低的计算复杂度。