波达方向（Direction Of Arrival,DOA）估计算法是阵列信号处理中主要研究方向之一,其应用涉及声呐、雷达、移动通信等众多领域。现有的DOA估计方法大多依赖于阵列导向矩阵的精确无偏条件,而实际工程中由于设备老化、环境变化等因素导致该条件难以满足,严重影响算法的估计性能。所以,阵列误差下DOA估计算法的研究具有重要意义。首先,本文在空间谱估计理论基础上建立了远场窄带信号接收数据模型以及阵列幅相误差模型。以MUSIC算法为例从理论与仿真两个角度总结了增益与相位误差对DOA估计算法的影响,并就势分析了两种阵列幅相误差下的DOA估计代表性算法,总结算法的不足之处并以此为切入点展开后续研究。其次,针对阵列幅相误差下基于稀疏相位恢复的DOA估计算法存在的估计偏问题,提出了基于线性模型逼近的非相干DOA估计算法。该算法在大功率参考源背景下,将平方运算产生的非线性模型近似为线性模型并运用?₁范数最小化获得DOA估计结果。算法同时给出两个高功率参考源交替工作的方案,成功地解决了伪峰区分难题。所提算法不受阵列结构限制且获得了改进的估计精度和计算复杂度。最后,针对现有的大多数阵列幅相误差下的DOA估计方法无法以有限的阵元数估计更多信源的问题,本文基于部分校准嵌套阵列,提出了一种增益相位误差下的DOA估计新方法。该方法首先利用连乘子函数和简单的代数运算完成初始增益误差估计,然后通过协方差矩阵向量化和稀疏表示理论构建具有连续自由度的稀疏表示向量模型,最后应用稀疏总体最小均方（Sparse total least squares,STLS）算法完成DOA估计。所提方法可依靠嵌套阵列高自由度特性和STLS算法的抗扰动特性获得改进的分辨率和估计精度。