近年来,阵列信号处理技术已在雷达、声纳、卫星遥感、天文学、无线通信、麦克风语音信号处理及医学成像等领域获得了极其广泛地应用。配置了更多阵元的现代雷达阵列系统,具有更高的分辨率、更强的干扰抑制能力、更准确的目标识别能力、更远的探测距离和更优良的可靠性等优点,因而大尺度雷达阵列系统是雷达发展的必然趋势。然而,传统的自适应阵列信号处理算法的计算开销（复杂度）高,难以在现代雷达阵列上高效地完成信号处理任务。而且,信号传播的畸变、阵元的位置扰动、阵元的增益失配、阵元的相位起伏、多径传播及阵元间的耦合等失配将对雷达阵列自适应技术造成不可忽视的影响。此外,受工作环境和硬件水平的限制,现代雷达阵列系统所获取的训练快拍数并未同步地增加。针对现代雷达阵列系统所面临的问题,本文在保证算法性能的前提下,从提升（样本）收敛速度及减少计算开销等方面对阵列信号处理中的角度估计和自适应波束形成方法进行了深入的研究。本论文的具体研究成果和主要贡献如下:1.针对真实的信号导向矢量（SSV）和假定的SSV间,存在的模型失配严重地影响波束形成器性能的问题,提出了一种稳健的自适应波束形成（RAB）算法。首先,将波束形成器的权向量表示为感兴趣信号导向矢量和其正交补空间的线性组合并约束感兴趣信号的导向矢量的范数为一。然后,将约束优化问题转换为无约束优化问题并求解。最后,采用阻尼奇异值分解正则化方法减弱失配对波束形成器的影响。此外,所提正则化算法使用L曲线方法自适应地确定正则化因子（加载水平）。实验结果表明在常见的失配场景下（如波达方向失配、阵元增益误差、阵元相位波动、阵元位置扰动、相干局部散射、阵元间耦合等）所提算法取得了优越的性能。而且,所提算法无需先验信息且工程实现简单。2.基于大规模雷达阵列的自适应波束形成器主要受到两个限制。一个限制是独立同分布的训练快拍不足,这将导致许多实际应用中的样本协方差矩阵奇异。另一个限制是波束形成器的计算复杂度过高,这严重地限制了波束形成算法的工程应用。为了突破这两个限制,本文提出了计算复杂度低的RAB算法。考虑到白噪声场景下,基于最小方差无失真响应准则的最优波束形成器位于低维的信号子空间（SSV和干扰流型构成的空间）。首先,将波束形成器的权矢量表示为训练快拍与感兴趣信号导向失量的线性组合。然后,利用拉格朗日乘子法求解低维的系数矢量。接下来,利用收缩正则化技术抑制模型失配对系数矢量的影响。最后,将低维的系数矢量代入权矢量表达式得到波束形成器。所提算法仅需计算低维的核矩阵的逆而不是高维的采样协方差矩阵的逆,因而具有极低的计算复杂度。此外,文中给出了适用于扫描模式的波束形成器。实验结果表明,与已有算法相比,该算法具有更优良的性能和更低的计算复杂度。3.经典的多重信号分类（MUSIC）算法主要存在两个限制。一个限制是独立同分布的快拍不足,将导致在许多实际应用中的样本协方差矩阵是非充分估计的（统计不稳定）。另一个是空间色噪声,它破坏了样本协方差矩阵中信号子空间和噪声子空间的可分离性。空间色噪声具有时域不相关特性,样本充足的情况下,（空间色）噪声的零延时协方差矩阵是普通的矩阵,而非零延时协方差矩阵是零矩阵。因而,本文利用受空间色噪声影响较小的非零延时采样协方差矩阵估计目标子空间。但是,单个非零延时采样协方差矩阵可能存在目标信号缺失的情况,而一组非零延时采样协方差矩阵中的目标信号缺失的概率极低。此外,本文引入了预投影技术进一步地减弱残余噪声对子空间估计算法的影响。所提算法使用非零延时采样协方差矩阵组的左奇异矩阵的部分列矢量作为算法的初值。实验结果表明,所提的子空间估计算法仅需三至五次迭代即可收敛,且基于非零延时采样协方差矩阵组的最小描述长度（MDL）算法可以准确地估计出远场目标数目。与经典的MUSIC算法和稀疏贝叶斯算法相比,所提算法估计的子空间精确度较高。4.高维小样本情况下,经典的信号子空间估计算法存在两个限制。一个限制是独立同分布的快拍严重不足将导致采样协方差矩阵奇异（非充分估计）。非充分估计的采样协方差矩阵中,信号与噪声乘积的交叉项是不能被忽略的且噪声的协方差矩阵不是数量矩阵。因信号子空间与噪声子空间不可分离,相应的基于子空间的信号处理算法失效。另一个限制是传统的子空间估计算法的计算复杂度过高,这将严重地限制其在实际工程中的应用。为了突破这两个限制,本文提出了一种高效的信号子空间估计方法。首先,将信号子空间表示为接收数据矩阵的线性组合。白噪声情况下,目标的数目远小于快拍的数目,且样本的数目远少于阵元数,则样本核矩阵和噪声核矩阵是被充分估计的。此外,高维的样本协方差矩阵的信号子空间与低维的核矩阵的信号子空间之间存在着对应关系。样本核矩阵中噪声与信号的交叉项是可以忽略的。与非充分估计的高维采样协方差矩阵相比,低维核矩阵保持了信号子空间和噪声子空间的可分离性。因此,利用低维核矩阵的特征值分解（EVD）可以间接地准确地得到高维样本协方差矩阵的信号子空间且算法的计算复杂度极低。估计出信号子空间,可以快速地得到噪声子空间,进而利用MUSIC算法和求根多重信号分类（Root-MUSIC）算法获得目标方位。仿真结果表明,高维小样本情况下,该方法性能优良效率极高。