相比于传统标量天线阵列，电磁矢量传感器阵列能提取电磁波信号的时间、空间和极化等多方面的信息，充分且有效地利用这些信息是当今矢量阵列信号处理领域的研究热点。本文利用几何代数这种高维代数工具，对电磁矢量传感器阵列信号的建模问题和多维参数估计问题进行了深入的研究。论文的主要工作包括基于几何代数的矢量阵列信号建模、波达方向（Directions of Arrival, DOA）估计、极化参数估计以及极化相干源分离等方面，具体工作如下：　　首先，对几何代数体系进行了简要的描述，重点介绍了三维矢量空间几何代数（Geometric Algebra of Three Dimensional Vector Space, G3）、四维矢量空间几何代数（Geometric Algebra of Four Dimensional Vector Space, G4）以及复三维空间几何代数（Geometric Algebra of Complex Three Dimensional Vector Space, CG3）的代数体系、运算规则及其矩阵的分析处理方法。　　第二，介绍了基于三维矢量空间几何代数的矢量阵列信号的DOA估计算法（Multiple Signal Classification Agorithm based on G3, G3-MUSIC），针对该算法没有充分利用接收信号二阶统计信息的问题，给出了一种改进的DOA估计方法，通过瑞利熵解耦技术实现方向参数和极化参数解耦，可以在极化参数未知的情况下实现独立信号源波达方向的盲估计。在一般统计意义下，所给出的改进算法利用了接收信号更多的二阶统计信息，具有比G3-MUSIC算法更好的DOA性能。　　第三，利用四维矢量空间几何代数为矢量阵列建立了G4模型，并研究了基于该模型的DOA估计算法，从协方差矩阵的低秩逼近特性、对局部相关噪声的去相关特性和G4向量的正交性等方面分析了该算法的性能优势。然后针对该算法不能估计极化参数的问题，给出了一种G4模型的修正方法，通过该方法可以实现对信号源方向参数和极化参数的联合估计。　　最后，研究了矢量阵列中极化相干源的空域平滑解相干算法，针对空域平滑算法无法适用于任意空间结构矢量阵列的问题，给出了一种基于三维矢量复空间几何代数的信号接收模型，以及基于该模型的DOA估计算法，该算法的协方差矩阵能够利用极化导向矢量的不相干特性自动分离（最多）3个极化相干源，在相干源数目较小时，该方法可以适用于任意空间结构的矢量阵列。