信号波达方向DOA（Direction of Arrival）估计始终是雷达系统目标探测、目标追踪、轨迹合成等的一个重要测量参数。DOA估计算法也一直都是阵列信号处理的热门方向,基于不同理论的测角技术层出不穷,而其中绝大多数的算法都是建立在理想阵列模型下。但在实际工程中落地实现的过程中必须要考虑阵列非理想因素,这些阵列误差的存在使得算法模型失配,DOA估计精度降低。为了进一步的工程实用化,本文对阵列非理想因素下的DOA估计算法进行研究,针对阵列失配的两大重要因素互耦误差与幅相误差进行分析,论文主要从4个方面进行探究:第一部分建立非理想因素下的DOA接收信号模型,并以均匀线阵为例,分析非理想因素对DOA算法性能所带来的影响,基于两种不同的DOA估计方法研究非理想因素导致DOA估计性能的下降。第二部分以汽车毫米波雷达常用的均匀线阵为阵列结构,研究了其在互耦误差与幅相误差条件下的校正算法性能,介绍了几种当下的互耦误差校正算法,改进了基于正交匹配追踪的DOA互耦自校正算法,并通过仿真实例进行了算法性能的对比。介绍了三种均匀线阵的幅相校正算法,并对最小原子范数（atomic norm minimization,ANM）自校正算法进行优化降维处理,使其运算时间大幅度减少,并通过仿真验证其算法性能。第三部分主要是将上述校正算法思想引入到其他阵列结构中。针对均匀圆阵研究了互耦秩损法与模式空间变换法,并对其性能进行仿真验证。针对均匀矩形阵,优化通过三子阵模型消除互耦误差影响的快速二维DOA估计算法,并与已有算法做性能对比,仿真验证其在DOA估计性能相似的前提下能够减少计算复杂度,且更利于实际工程实现。第四部分主要是在实际环境中的实测数据的实验验证。通过现有的雷达平台对实测数据进行综合分析其处理流程,并对本文中的可用算法进行性能实测。