自适应波束形成技术的基本思想是在接收有用信号的同时,自适应地抑制干扰信号,不需要干扰信号的先验信息,因此在雷达、通信等很多领域中得到了广泛的应用。当干扰信号位于主瓣外时,自适应波束形成技术性能卓越,然而当干扰位于主瓣内时,应用波束形成算法时将出现主瓣变形、副瓣电平增高以及峰值偏移等现象。本文主要针对以上问题展开研究,具体如下:首先,介绍远场信号数学模型下的阵列信号波束形成技术对干扰抑制的原理,阐述自适应权矢量寻优准则,并分析波束形成技术对抗旁瓣干扰与主瓣干扰的不同点。建立不同主瓣干扰的数学模型,分析主瓣干扰对雷达系统的具体影响。当干扰信号落入方向图主瓣区域时,传统自适应波束形成算法为了对干扰信号进行抑制,会在主波束内形成零陷,导致算法性能严重下降。针对以上问题本文深入研究了现有算法:基于阻塞矩阵预处理以及基于特征投影矩阵预处理算法。关于阻塞矩阵预处理算法,进行了详细分析,并介绍了基于对角加载以及线性约束技术的改进算法,在不同的环境中验证改进算法的性能。关于特征投影矩阵改进算法,介绍并研究了基于特征投影及协方差矩阵重构主瓣干扰抑制算法以及特征投影及协方差矩阵积分重构主瓣干扰抑制算法,虽然此类算法具有更强的干扰抑制能力,但是算法的稳健性较弱,需要进行改进研究。最后,针对特征投影预算法在波束形成时稳健性较弱问题,分别提出了基于特征投影及L2范数约束主瓣干扰抑制算法和基于特征投影及协方差矩阵稀疏重构主瓣干扰抑制算法。特征投影及L2范数约束主瓣干扰抑制算法的输出信干噪比略低于特征投影及协方差矩阵重构算法,但是在对抗阵列失配与误差时性能更优,拥有更强的稳健性,在计算资源有限的情况下具有明显优势。特征投影及协方差矩阵积分重构算法利用Capon功率谱重构干扰加噪声协方差矩阵,但是Capon功率谱存在能量泄漏以及积分计算复杂度高的缺点。针对此问题,利用压缩感知的思想,对干扰加噪声协方差矩阵进行稀疏重构,提出了特征投影及协方差矩阵稀疏重构主瓣干扰抑制算法。通过仿真表明,提出的算法可更有效抑制主瓣干扰以及旁瓣干扰,获得更高的输出信干噪比,保持较强的稳健性,而且算法复杂度更低。