波达方向估计(DOA,Direction–of-Arrival)和波束形成(BF,beamforming)技术是阵列信号处理中的两大分支,早已应用于多个领域。在实际应用中,由于不理想的因素存在,比如网格划分问题、阵元的互耦效应、信源相干、阵元损坏等,导致经典的算法性能下降。因此,在有限阵元下尽可能的提高阵列的自由度、降低甚至消除阵列的非理想因素等问题是值得关注和研究的。近几年来,各种非均匀阵列的布阵形式相继被提出,例如嵌套阵列、互质阵列、半互质阵列、增广嵌套阵列等等,统称为广义互质阵。本文从广义互质阵列的概念出发,介绍了三种常用的非均匀阵列布阵结构,对阵列的非理想因素以及在物理阵列下如何降低旁瓣电平等进行了重点研究。主要的工作和研究内容的安排如下:(1)本文首先给出广义互质阵列的概念,并介绍了三种常用的广义互质阵列的布阵结构,接着,研究了三种波达方向角度的估计方法。由于在角度搜索的时候存在网格划分的问题,本文研究了基于网格估计误差的算法及性能。(2)实际的接收数据模型存在各种各样的误差,例如阵元的互耦效应、信源之间的相干性等等。因此,本文对阵列互耦估计模型进行深度分析,并结合现如今的各种算法,研究并提出了基于压缩感知的稀疏贝叶斯的DOA估计算法,该方法可以有效的解决在接收阵列存在互耦的情况下DOA估计问题,与压缩感知理论中常用的算法相比,性能优良。(3)目前对于在广义互质阵列下信源之间的相干性的模型研究甚少,基于此,本文通过相干信源出发,介绍了基于迭代类的DOA估计算法和N-root算法,并提出了一种基于广义互质阵列的混合相干和非相干信号的压缩感知DOA估计算法。提出的算法解决了相干信源的问题,并充分发挥了广义互质阵列高自由度的特点。此外,提出的算法除了这两个创新点之外,还可以检测出哪些信源是存在相干性的,这在目前的学术领域中是没有的。(4)针对目前的学术领域中对于广义互质阵列的波束形成的一系列问题,本文将研究的重点放在了如何在物理阵列上进行低旁瓣的波束形成,介绍了基于前向线性预测的波束形成算法,研究了两种静态波束赋形算法,并对降低旁瓣的电平值进行了深度的分析。