自适应阵列天线系统能根据信号的来波方向调整方向图,跟踪期望信号,减少或抵消干扰信号,提高信干噪比。在移动通信系统中,采用自适应阵列天线可以提高频谱利用率、增加系统容量、扩大基站覆盖范围、减小电磁污染,明显改善系统的通信质量。自适应阵列天线已经成为第三代移动通信研究的热点之一。在给定各阵元的取样数据后,自适应阵列天线信号处理的问题一般可以归结到三个方面:信号源数目的确定、波达方向(DOA: Direction of Arrival)的多用户检测和数字波束形成(DBF: Digital Beamforming)。这几个方面不是相互独立的,而是相互关联的。论文在查阅大量国内外相关科技文献资料的基础上,围绕自适应阵列天线技术中的波达方向估计和数字波束形成技术做了以下几个方面的研究: 1. 总结了传统的DOA 估计算法,在相关和非相关信号等条件下,对基于子空间的MUSIC 方法的DOA 估计性能进行了分析和仿真研究,并将其与传统的DOA估计方法进行了对比研究。2. MUSIC 算法是谱估计算法中的经典算法,它具有测向分辨率高,对信号个数和DOA 角度可以进行渐进无偏估计等优点,但是在分辨相关信号时需要进行平滑处理,增加了计算量。针对多用户多径情况下的DOA 估计问题,提出了一种空时平滑算法。该算法能有效识别出各来波的DOA,与传统的空间平滑技术相比,该算法分辨高,计算量小。3. 提出了基于最大特征值的空时平均处理算法。该方法结合基于最大特征值的DOA估计算法和空时平均处理方法而提出,在保持最大特征值法优点的基础上,引入空时平均处理技术,在低信噪比和小样本的情况下,能有效的提高DOA 估计的分辨率和准确度。4. 在深入研究基于特征空间(ESB: Eigenspace-based)波束形成算法性能的基础上,提出了基于最大特征值的ESB 波束形成算法。算法摒弃了权向量在干扰用户与多径信号空间中的分量,权向量范数更小,输出噪声功率较小,在提高信干噪比的同时能够获得比原ESB 算法更快的收敛速度,并对指向误差不敏感。此外,算法受相关干扰和多径干扰的影响小,算法的稳定性和鲁棒性较好。