经典的超分辨算法和近些年发展起来的基于稀疏重构的算法,都是在基于理想的阵列流形的前提下具有超分辨测向性能。但在实际应用中客观存在着各种误差,如阵元位置误差、通道幅相误差、阵元互耦误差等,这些误差的存在会导致阵列流形与理想情况有显著偏差,从而使这些超分辨测向算法严重恶化甚至失效。因此研究误差条件下的来波方向（direction-of-arrival,DOA）估计算法作为近年来阵列信号处理领域的重要方向之一,具有重要的理论意义和实用价值。论文的主要工作如下:1.针对阵列信号空间谱估计中出现的阵列误差导致高分辨率测向算法性能下降甚至失效的问题,分别针对位置误差、幅相误差和互耦误差提出了基于入侵杂草算法（invasive weed optimization,IWO）的阵列误差有源校正方法。利用一个方位已知的校正源,从子空间基本原理出发,结合入侵杂草算法,将阵列误差求解转化为参数寻优问题,在估测阵列误差后对原导向矢量进行了修正。在分别对线阵的位置误差、幅相误差,以及线阵和圆阵的互耦误差进行校正后均得到了良好的DOA估计性能。所提阵列误差计算方法无论是在收敛性上还是在阵列误差和DOA的估计精度上,都要优于遗传算法（genetic algorithm,GA）和粒子群算法（particle swarm optimization,PSO）,对DOA估计的均方根误差曲线更加接近于克拉美-罗界（Cramér–Rao bound,CRB）曲线。所提方法对阵型没有特殊要求,可以推广到其他任意阵列的误差校正问题中。2.结合PSO算法的搜索深度和IWO算法的搜索广度,提出了一种基于IWO-PSO算法的幅相误差有源校正方法。所提方法在收敛性上要明显优于GA算法和PSO算法,且无论幅相误差大小,对幅相误差的估计性能都要优于其他基于优化算法的校正方法和依赖幅相误差初始值的传统算法。进一步,提出了基于IWO-PSO的幅相误差与互耦误差联合有源校正算法。利用已知的一个校正源建立同时包含幅相误差和互耦误差的目标函数,通过交替迭代的方式搜索满足目标函数最优值的幅相误差和互耦系数。所提方法不需要误差的先验知识,有良好的DOA和阵列误差估计性能。相较于其他基于优化算法的校正方法,所提方法对DOA估计的均方根误差曲线更接近于CRB曲线。3.针对幅相误差条件下的DOA问题,提出了一种基于协方差拟合准则的网格化自校正算法。所提算法不要求校正源和先验的校正信息,对于信号源不相关和信号源相关两种情况,在一定的相位误差范围内都能有很好的估计性能,克服了传统算法需要先验校正信息和信号源相关时失效的问题。首先,通过用协方差的对角元素减去噪声项来求解幅度误差。其次,基于协方差拟合准则,推导了在幅相误差存在的条件下信号和噪声的功率表达式。然后,在求解相位误差时引入置换矩阵来降低信号相关性的影响。置换矩阵是向前向后空间平滑技术的一种特殊情况。最后通过交替迭代的方式来实现DOA和幅相误差的联合估计。进一步,通过将所提算法与SPA（sparse and parametric approach）算法相结合,解决了SPA算法在幅相误差存在时性能下降的问题。但是,因为所提算法是一种交替迭代算法,所以它在相位误差比较大时容易陷入局部最优,且计算复杂度较高。4.提出了一种基于协方差拟合准则的无网格稀疏幅相误差自校正算法。首先,将离散角度域转换到连续域,在连续域建立数学模型;把基于协方差拟合准则的目标函数转化为半定规划问题（semidefinite programming,SDP）,推导了未校正条件下的DOA估计值和幅相误差估计值;然后,将估计出的幅相误差补偿SDP目标函数,通过凸优化求解出更精确的DOA估计值。所提算法无需将角度域离散化从而避免了网格失配的问题,无需交替迭代,计算复杂度低。且相比于基于网格化的自校正算法,所提算法有更高的DOA和相位误差估计精度。进一步,研究了在非均匀噪声情况下,基于部分校正阵列的DOA估计问题。所提算法结合协方差拟合准则与现有的ESPRIT-Like算法,针对信号源不相关和信号源相关两种情况建立了统一的数学模型,对信号源的相关性和非均匀噪声都有良好的鲁棒性,在低信噪比、噪声非均匀性很大的情况下,所提算法不需要交替迭代,对DOA和幅相误差的估计精度要高于ESPRIT-Like算法和基于无网格的自校正算法,其DOA估计的均方根误差曲线更接近于CRB曲线。