来波方向(Direction of Arrival, DOA)估计作为阵列信号处理的重要内容之一,己被广泛应用于雷达、通信、声纳、地震勘探、射电天文以及生物医学工程等众多军事及国名经济领域。而子空间方法以其良好的性能、较高的分辨率和稳健性,在DOA估计中占有举足轻重的地位。多重信号分离(Multiple Signal Classification, MUSIC)算法和旋转不变(Estimate Signal Parameter Via Rotational Invariance, ESPRIT)算法是DOA估计的两种典型算法。本文在对这两种算法进行分析的基础上,编写出两种算法的仿真程序,并对其性能进行比较与分析。本文阐述了极化阵列天线的优势和前景,并探讨了子空间方法处理极化阵列天线的DOA参数估计问题。和普通的线性阵列相比,极化阵列的性能更加优越,同时DOA参数的估计也更为复杂,引入了更多的维数和极化参数。本文针对极化阵列天线的各种分布情况,建立了极化阵列信号模型。三维调制方法是使用电磁波信号的幅度、极化辅角与极化相位角进行联合调制的一种方法。通过扩展调制参数自由度的维数以及充分利用电磁波的极化信息可以有效提升通信系统的性能。根据三维调制信号的特性,本文提出了一种三维调制信号的MUSIC解调方法,通过搜索接收信号的空间谱,来估计其极化辅角与极化相位角等信息,从而恢复出基带信号。理论分析与仿真实验结果均表明,所提出的方法能够对三维极化幅度正交调制(Polarization Quadrature Amplitude Modulation, PQAM)信号进行有效的接收,不仅具有很高的分辨率和精度,而且在低信噪比条件下,可以获得更低的误码率和估计误差。针对原算法运算量大,算法复杂的缺陷,本文又提出了一种新型的三维调制信号的快速解调方法。该方法基于MUSIC算法,首先利用单次快拍来建立阵列数据的协方差矩阵,然后根据调制信号的先验信息对所得信号空间谱进行判决,来估计其极化辅角与极化相位角等信息,从而恢复出基带信号。理论分析与仿真实验结果均表明,所提出方法不仅可以避免谱搜索,大大降低MUSIC方法的运算量,而且适用于瞬时信号和快速运动信号的解调。