波达方向估计（Direction-of-Arrival,DOA）是阵列信号处理领域的一个重要分支,它是指利用阵列天线接收信号,并通过统计信号处理技术和各类优化方法对接收信号进行处理,以能够估计出入射信号的来向信息,在雷达、声呐、导航和无线通信等领域有着广泛的应用。传统的子空间类方法其高分辨率的前提是能够将导向矢量的结构具体构造出来,换言之,这类方法对阵列误差敏感。在实际阵列中,由于环境和物理器件等影响,阵列流形会出现偏差,从而导致估计性能下降,互耦误差是阵列误差主要表现形式之一。本文主要研究了在互耦误差情况下的DOA估计算法。首先介绍了阵列测向的基本模型,包括均匀线阵和非均匀线阵。其次,介绍了互耦矩阵的性质和结构,分析互耦误差对DOA估计的影响,并与理想情况进行对比。在均匀线阵中,针对互耦和非均匀噪声并存的情形下,提出了基于协方差拟合的估计算法,该算法根据互耦矩阵的结构,利用选择矩阵,去构造一个新的阵列流形矩阵,并将DOA估计问题转换为一个半定规划问题,以此求出入射角度等一系列参数。仿真实验表明,在入射信源角度比较接近时,该算法能够较为精确地分辨出入射信号;在快拍数较少和受到相干信号的情况下,该算法也能够表现出较高的分辨率。考虑互耦情况下的嵌套阵列的DOA估计问题,本文提出了一种先估计出互耦系数之后,再精确估计入射角度的算法。该算法主要是利用嵌套阵列中的稀疏部分,根据其特殊结构,可以将该部分的互耦矩阵看作是单位阵。通过比较嵌套阵两个子阵的估计结果,得到DOA粗估计,并以此估计出互耦系数;在此基础上,再进行精确的DOA估计。仿真试验表明,由于提高了阵列孔径,所提算法与具有相同阵元的均匀线阵的相比具有更好的估计性能。