近年来，随着无线通信设备的增多，电磁兼容问题得到国内外众多学者的关注。在舰船等狭小空间内，天线林立，如何有效地减少电磁干扰已成为重要课题。智能天线系统作为无线通信系统关键技术之一，是现代通信技术的研究热点，它使得天线的主瓣方向对准期望信号，并自适应的抑制多用户的干扰。但其在信号数目多于阵列阵元数时，无法正常工作。虚拟天线技术正是为解决上述问题应运而生，通过内插变换、高阶累积量等预处理方法增加天线自由度，并将预处理算法与波束形成算法或者空间谱估计算法相结合，使得阵列天线有效的抑制多于阵元数的干扰信号，或者可以使用更少的阵元数目处理相同数目的信号源。在同等条件下，天线的数量减少，就可以降低天线对外辐射的能量强度和耦合干扰强度，因此虚拟天线是减轻电磁干扰的有效方案之一。本文主要研究了使用高阶累积量和内插变换的方法增加阵列天线自由度，并将两种方法应用在空间谱估计算法中。通过理论分析和仿真实验，实现了虚拟天线增加天线自由度、扩展天线的有效孔径的功能，并对两种方法深入研究，进行仿真对比，得出基于两种方法的虚拟天线的优缺点及适用范围。使用上述两种方法实现虚拟天线的功能都需要基于理想条件下，但在工程应用中，各种误差无可避免，在这种情况下，会导致虚拟天线无法分辨信号源。因此，本文将四阶累积量与基于二阶统计量的“去耦”自校正算法相结合，提出了两种均匀线阵的虚拟天线互耦自校正算法，两种方法利用均匀线阵的托普利兹结构，对阵列互耦下的导向矢量进行变换，排除掉互耦系数对测向的影响。通过理论分析和仿真实验，结果表明相比较于辅助元法，本文的两种方法不但在阵列互耦的情况下能有效的分辨超自由度信号数目，且具有更好的分辨率。并将改进后的均匀直线阵的互耦自校正方法运用到均匀圆阵中，对于圆阵的导向矢量进行变换，在测向时排除互耦系数的影响。实现了在阵列互耦情况下，基于均匀圆阵虚拟天线的阵列扩展，并通过仿真实验验证了算法的有效性。