传感器阵列信号处理在声呐、雷达、语音信号处理和通信等领域具有广泛应用,其主要功能是利用波束形成技术提高输出信噪比、抑制空间干扰和估计目标方位。受应用环境的限制,传统阵列的尺寸和其性能之间的矛盾越来越突出,因此如何在有限的阵列尺度下获得足够高的空间指向性是阵列信号处理中亟待解决的问题。已有的理论证明,超指向性可有效提高传感器阵列的信噪比增益和方位分辨力,且能大幅度减小阵列的尺度,具有很好的应用前景。然而,由于对误差十分敏感,实现超指向性仍具有很大的挑战性。本文对传感器阵列的超指向性原理进行了深入研究,针对不同阵列形式提出和完善了一系列超指向性波束形成方法。这些方法均得到了计算机仿真和实验数据的充分验证,可用于设计实际的小尺度超指向性传感器阵列。具体研究内容包括:1.提出了圆环阵相位模态域波束直接优化的一般形式,统一了相位模态域常规波束形成、最小方差无失真响应波束形成以及稳健超指向性波束形成的表述,丰富了相位模态波束形成理论。针对声透明圆环阵、刚性球体以及无限长和有限长刚性柱体表面圆环阵,结合散射理论,导出了相位模态域稳健超指向性波束形成器,有效地优化了指向性、稳健性和旁瓣级等关联的波束参量,获得了较好的超指向性波束。2.将圆环阵特征波束分解与综合超指向性波束形成的误差敏感度函数表达为有限阶特征波束误差敏感度函数之和,揭示了频率、特征波束阶数和误差敏感度函数相互影响的一般规律,进一步研究了利用降秩处理技术获得稳健超指向性波束的方法,完善和拓展了特征波束分解与综合超指向性模型。将该模型推广至具有任意阵元数的刚性球体和无限长刚性柱体表面均匀圆环阵,并证明刚性障板对稳健性具有改善作用。基于特征波束分解与综合超指向性模型推导了圆环阵最大指向性因子和最优波束的极限表达式,展示了圆环阵提高指向性的最大潜力。提出了增加旁瓣约束的稳健波束优化方法,由适用的最高阶特征波束确定稳健性约束参数,可灵活地得到满足不同约束条件的超指向性波束。3.提出了适用于任意阵型的Gram-Schmidt模态波束分解与综合超指向性模型。在给定阵列形式和频率的条件下,利用Gram-Schmidt正交化过程推导了超指向性最优权值向量的精确闭式解,进而将最优波束和其对应的最大指向性因子分别分解为不同阶数的Gram-Schmidt模态波束及其指向性因子,然后通过选择合适的Gram-Schmidt模态波束合成稳健超指向性波束。三种针对不同类型阵列的设计实例表明,Gram-Schmidt模态波束的稳健性随阶数的升高而下降,因此也可通过降秩处理获得稳健的超指向性波束。4.提出了基于期望波束拟合的圆环阵波束图综合超指向性方法。以最小化期望波束和合成波束之间的均方误差为目标,通过适当选择期望波束并结合循环矩阵特性,推导出了最优权值向量的精确闭式解,进而得到了合成波束和最小均方误差的简洁表达式。针对声透明圆环阵、刚性球体以及无限长刚性柱体和无限长弹性柱体表面圆环阵,合成得到了最优超指向性波束和具有频率不变响应的宽带超指向性波束。5.针对实际阵列的阵列流形和噪声互谱矩阵不存在解析表达式的情况,利用波束图综合方法,采用实际测量结合数值计算的方式,分析了相关超指向性波束形成器的性能。从期望波束拟合的角度出发,基于最小二乘原理,由棱柱体表面圆环阵实测阵列流形提取出相位模态,再通过期望波束确定系数,然后对这些相位模态加权求和获得了稳健的超指向性波束。从直接优化的角度出发,依据环境噪声的方向性,结合优化方法,对安装在较复杂支架上的共形矢量水听器阵设计出了具有特定空间响应的超指向性波束形成器,达到了空域滤除噪声提高信噪比的目的,丰富了矢量水听器阵列波束形成理论。