随着阵列信号处理技术的高速发展,波达方向估计作为其中重要的组成部分被广泛应用于雷达、移动通讯等领域,空间谱测向理论和技术也日趋成熟。为在实际工程中获得更高的测向精度,提升特征信息维度成为目前主要的研究方向。极化敏感阵列在获取入射电磁信号空间时延信息的同时,还能完整地获得极化信息,能进一步提升系统测向性能。另外当信号相干时,传统基于非相干条件的算法性能会大幅下降。因此,相干辐射源下的极化-DOA联合估计成为当前信号处理领域中亟需解决的热点问题。本文围绕极化敏感阵列下相干信号角度估计进行理论研究和仿真验证,主要工作概括如下:（1）针对相干辐射源下信号参数无法被准确估计的问题,首先研究了平滑类算法。其中的空间平滑算法通过求多个空间不变匹配子阵协方差矩阵的均值来恢复阵列协方差矩阵的秩;极化平滑则是以相同极化方式的电/磁极子作为一组子阵进行平滑,之后再通过极化参数估计算法求解信号角度信息。平滑类算法对阵元和阵型空间结构有一定要求。广义子空间拟合适用于相干和非相干条件,算法利用空间矩阵和极化矩阵间存在的线性关系,通过旋转矩阵的恰当分离实现空间域和极化域的解耦。广义子空间拟合算法的复杂度不仅与信号维度有关,还取决于信号个数,当信号个数增大时,算法复杂度呈指数增长。（2）针对广义子空间拟合算法计算复杂度高的问题,研究了多维非线性最优化方法。现有的算法主要分为两类:基于解耦重构的解析算法和基于智能优化的快速搜索算法。其中,解析类算法对多维搜索进行降维来实现复杂度的降低,智能优化类算法则是通过优化搜索路径来实现快速计算。（3）解析类算法中主要研究了修正变量投影算法,该算法与流型分离技术相结合可实现任意阵型的空间极化参数的降维估计,降低了计算复杂度。智能优化类算法中,本文基于人工鱼群算法,针对其收敛速度慢,收敛精度低的缺点提出改进的分层人工鱼群算法。本算法采取预先设定的层次结构,将种群中的非最优粒子作为底层独立进行进化,保证种群多样性,其中的最优粒子则构成顶层在小范围内进行粒子群搜索,加快收敛速度,能较好地保持探索与开发能力间的平衡,在实现高效搜索的同时较好的保证了估计精度。