近几年来，智能天线技术随着移动通信技术的发展，也得到了广泛的应用。阵列信号处理作为智能天线的重要组成部分，因此研究它具有极大的经济价值和实用性。　　 本文主要研究由多径传播引起的信号相干及信号处理的问题。这种相干性会影响信源数估计和波达方向(DOA)估计。信号之间的相干性会导致协方差矩阵秩的亏损、信号子空间和噪声子空间不再正交，会严重影响基于子空间的算法分辨率。大部分的DOA估计算法都是以信源数已知为前提的，因此正确估计信源数是保证DOA估计算法准确的基础。本文主要从下面三部分展开讨论的。　　 第一，讨论阵列信号的解相干算法，主要包括空间平滑算法、Toeplitz算法。空间平滑算法虽然具有较高的解相干能力，但它只适用于均匀线阵。虽然Toeplitz算法能运用得到非等距阵列和宽带阵列，但是它存在较大的误差。因此在这个基础改进了Toeplitz算法，使其在同样条件获得较好的解相干作用。　　 第二，在解相干的基础上，介绍信源数估计算法--盖氏圆算法，提出了一种基于特征值距离聚类的信源数估计算法。这种算法主要是利用协方差矩阵特征值自身的特点，结合模式识别中聚类方法，先计算特征值的欧氏距离，然后做动态聚类从而得到了信源数目。实验结果表明，在信噪比比较低时，特征值方法要优于盖氏圆算法。　　 第三，在前面两部分的基础上，分别对窄带和宽带信号做了波达方向估计。窄带主要讨论了旋转不变子空间(ESPRIT)算法；宽带主要分析了在不同约束条件下的相干信号子空间算法(CSM)。本文主要对旋转信号子空间(RSS)算法、信号子空间变换(SST)算法和双边相干变换(TCT)算法做仿真实验，实验结果表明相同条件下，TCT算法要比RSS算法和SST算法的分辨率高一些。