基于空间谱估计算法的波达方向(direction of arrival,DOA)估计,具有高分辨力和高精度而被广大学者关注并且研究,在工程应用——电子侦察和电子对抗方面也有着广阔的前景,然而空间谱估计算法并没有考虑或者利用接收信号的特性。如果合理的利用接收信号的特性,相当于提高了信息的利用效率,从而可以提高空间谱估计算法的估计性能。具有非圆特性的调制信号常见于雷达、通信和声呐领域中,非圆特性是指信号的伪协方差矩阵不为零,在空间谱估计算法中利用这一维信息可以提高分辨力和测角精度。本论文主要围绕非圆信号展开一系列的研究,提出了利用非圆信号特征的实值张量旋转不变子空间(Estimation of Signal Parameters via Rotational Invariance Techniques,ESPRIT)算法和调制信号的非圆率估计算法,主要内容如下:1.为了提高空间谱估计测向算法的测角精度,基于均匀面阵提出了非圆信号的二维DOA估计方法。首先通过研究张量与矩阵之间的转换关系,将数据矩阵推广到张量空间;然后利用最大非圆率非圆信号的特性,将接收数据张量通过欧拉式子构造两个实值数据张量——正弦数据张量和余弦数据张量,并按照天线阵列维数分别在各维上拼接,对拼接后的实值数据张量做高阶奇异值分解,根据低秩近似得到信号子空间;最后根据选择矩阵构造旋转不变关系,并对旋转不变关系式做特征分解来联合估计天线阵列各维阵元间的相位差,以此实现DOA估计。通过计算机仿真实验,验证了该方法能提高测向性能,并且通过实验得出了张量能够提高测角精度。2.针对具有非圆特性的调制信号,提出了一种非圆率估计方法。首先从理论上推导了几种常见调制信号的非圆率。然后根据采样得到的数据,给出了两种非圆率估计方法:第一种方法是在不考虑阵元间的空间相移情况下,根据非圆率定义式,利用最大似然方法计算非圆率;第二种方法考虑阵元间的空间相移,利用希尔伯特空间变换,重构导向矢量,并根据最大似然谱估计构造非圆率函数,通过共轭求导,得到了恒定非圆率信号的非圆率估计方法,在此基础上加以改进,得到了非圆率随调制时长变化信号的非圆率估计方法。最后通过仿真实验,验证了估计恒定非圆率信号和非圆率随调制时长变化信号非圆率的正确性,并且该方法具有良好的估计性能。