自适应波束形成在雷达、声纳、地震学、无线通信等领域中有广泛应用。尤其在最近的几十年，鲁棒波束形成算法得到了长足的发展，受到全世界众多学者的关注。 在实际应用过程中，由于传播环境、信源、传感器阵列等诸多条件的复杂变化，引起信号方向向量的偏差，导致现存的自适应波束形成器的性能下降。另外，采样样本数目的变化也会影响自适应波束形成器的性能。鲁棒自适应波束形成算法适用小采样样本的情况，可以克服信号方向向量的偏差，有效地提高自适应波束形成器的性能，在实际环境中有广泛地应用。 本文分析了空间阵列信号处理的发展过程，系统地研究了空间信号处理中的波束形成、权重更新算法和到来方向DOA估计等，并对鲁棒波束形成器的设计方法进行了深入研究，针对通信系统中实际存在的问题，提出了两种鲁棒波束形成算法。 分析了多径传播环境下，信号方向向量的偏差和采样样本数目的变化对自适应波束形成算法性能的影响，提出了鲁棒递推最小二乘RLS波束形成算法，有效地解决了在信号方向向量存在偏差的情况下，波束形成算法的有效性和稳定性问题。该算法不仅具有收敛速度快、抗扰动性强、误差小的特点，而且保证阵列输出的信干噪比SINR接近最优值。 针对约束最小均方算法CLMS在实际应用中存在的弊端，提出了鲁棒约束LMS自适应波束形成算法。该算法不仅对信号方向向量的偏差和采样样本数目的变化具有很好的鲁棒性，而且收敛速度快、阵列输出的信干噪比SINR接近最优值。