近年来,阵列信号处理技术是国内外学者的研究重点,该技术通过对传感器阵列进行配置组成多天线系统,从而利用含有干扰和噪声的接收信号矢量对阵列或者信号参数进行有效估计。本文重点研究阵列信号处理中的波束形成技术,波束形成也叫空域滤波,它能利用传感器阵列实现增强有用信号并抑制干扰和噪声的目的。波束形成技术由于具有较强的干扰抑制能力和较高的增益处理能力,被广泛应用于雷达、声纳、无线通信、GPS导航、天文和医学图像等领域。如何进行有效的权矢量设计是自适应波束形成技术的核心问题。不同的应用场景具有不同的先验信息,可以根据这些先验信息选择合适的设计准则,实现最优的权矢量设计。本文以优化准则为主线,以提高算法的收敛和跟踪性能、提升波束形成稳健性、降低安装成本为主要目的,分别基于最小均方误差准则、恒模准则和最小方差准则提出了相应的自适应波束形成改进算法。概括本文的主要工作与创新点为如下四个方面:首先,在最小均方误差准则下,为了改进固定遗忘因子迭代最小二乘(Recursive Least Squares,RLS)算法的收敛问题,提出了一种基于变遗忘因子机制的宽线性自适应波束形成算法。通过研究无噪声后验误差和先验误差的关系,推得了遗忘因子的最优表达式,该表达式可以根据阵列天线的接收信息逐快拍地更新遗忘因子参数。针对该算法存在计算复杂度较高的问题,通过探索宽线性处理过程中协方差矩阵的结构属性,提出了一种低复杂度的改进算法。相比于前者该算法仍然具有较好的收敛性能,同时能够较大程度地减少算法的计算复杂度。在实验仿真部分,分别从输出信干噪比(Signal to Interference plus Noise Ratio,SINR)和算法的计算复杂度方面验证了提出算法的有效性。其次,利用恒模准则,分别在直接形式(Direct Form,DF)和旁瓣相消器(Generalized Sidelobe Canceler,GSC)两种结构下,提出了三种基于有用信号导向矢量约束的无迹卡尔曼滤波(Unscented Kalman Filter,UKF)自适应波束形成算法。在DF结构下将附加约束条件的UKF算法应用到自适应波束形成技术中,以迭代投影的方式形成了约束条件下的UKF自适应波束形成算法,即直接结构约束恒模无迹卡尔曼滤波(Direct Form-based Constrained Constant Modulus UKF,DF-CCM-UKF)算法。因为GSC结构可将约束优化问题转化为无约束优化问题,所以依据该特性将恒模目标函数转变为GSC结构下的状态空间模型,从而以UKF为迭代算法求得了自适应波束形成器的权矢量,形成了GSC结构的CCM-UKF算法(GSC-based CCM-UKF,GSC-CCM-UKF)。相比于RLS算法和最小均方(Least Mean Square,LMS)算法,UKF算法具有更高的计算复杂度,针对这个问题,将基于克雷洛夫(Krylov)子空间的降秩技术应用到GSCCCM-UKF算法中,形成了降秩GSC-CCM-UKF(Reduced Rank GSC-CCM-UKF,RRGSC-CCM-UKF)算法。相比于前者,该算法具有更快的收敛速度和较低的计算复杂度。在实验仿真部分,将提出的DF-CCM-UKF算法、GSC-CCM-UKF算法和RR-GSCCCM-UKF算法同经典的基于RLS的自适应波束形成算法作对比,验证了提出算法的可行性。其次,针对自适应波束形成算法在实际应用环境下阵列系统可能存在一些潜在的不确定性问题,如有用信号方向失配、阵元位置偏差、波前畸变等情况,研究了自适应波束形成算法的稳健性问题。基于高斯信号使用最小方差准则的稳健波束形成算法已经取得了大量的研究成果,而针对非高斯信号的稳健算法还没有得到充分地研究。针对这个情况,重点研究了非高斯信号的稳健算法。于是考虑概率约束条件,提出了基于恒模准则的稳健自适应波束形成算法。在一些应用场合,阵列的不确定因素的概率分布情况为先验已知,充分利用这些统计信息,可以有效地提升波束形成的输出性能。仿真实验表明了提出的概率约束稳健恒模算法相比于存在的同类型算法具有较好的稳健性。最后,考虑到直线阵列的配置方式中,稀疏阵列相比于均匀线阵具有更好的参数估计性能。采用最小方差准则,分别使用压缩感知技术和子空间技术提出了两种基于互质阵列的自适应波束形成算法。在提出的基于稀疏的互质阵列自适应波束形成算法中,将角度和功率估计问题转变成一个基于虚拟阵列的压缩感知问题,并运用最小绝对值收缩与选择算子(Least absolute shrinkage and selection operator,Lasso)算法高效求解。考虑Lasso算法对信号的功率估计存在偏差的问题,提出了基于最小二乘法的功率修正算法,确保了算法的估计精度。从而,利用信号的角度和功率信息,对基于物理阵列的干扰加噪声协方差矩阵进行重构,以便更好地对干扰和噪声进行抑制。对于提出的基于子空间技术的互质阵列自适应波束形成算法,利用了虚拟接收信号协方差矩阵和对空间谱积分所形成的矩阵的子空间关系,对基于虚拟阵列的信号导向矢量进行有效估计。然后,利用Capon功率修正法估计信号功率和噪声功率。最后,基于互质阵列的物理阵列设计自适应波束形成器的权矢量。在仿真部分,用提出的算法分别与同类型的算法做对比,验证其有效性。