随着现代通信技术的发展和国防科技信息化进程的加快,全球通信业务需求迅速增长,无线通信基站数量急剧增多,使得电磁通信环境复杂化,频谱资源利用紧张化,干扰噪声种类多样化；进而导致单通道时频混叠信号在军用电子侦察、无线电频谱监测、紧急救援等通信应用环境中普遍存在。对于单通道盲源分离的方法,利用阵列信号处理的传统盲源分离算法以及时频域、空域和码域滤波的方法都不再适用。因此,研究如何在复杂无线通信环境中实现单通道盲源分离具有重要意义。本文在分析和归纳总结现有盲源分离基本原理和方法的基础上,探究了通信信号循环谱域的可分离机理及构建循环谱域滤波器实现单通道通信信号的盲源分离方法。研究发现循环平稳性可以很好的反应通信信号的本质特征,从通信信号的循环谱估计方法及循环谱性质出发,提出一种基于时变ARV模型的循环谱估计算法。算法将通信信号用时变ARV模型表示,通过基时间函数展开将线性非平稳问题转化为线性时不变问题,利用协方差矩阵以及谱相关理论估计出信号的循环谱；同时对一些常见调制信号循环谱进行验证,理论分析证明循环谱反应了调制信号载频和码元周期,通过循环谱估计可确定循环谱域滤波器的频移量。理论分析证明,通信信号在循环谱域具有独立性和稀疏性,可以通过滤波的方法实现单通道通信信号的盲源分离。为此,本文在维纳滤波器及盲自适应频移滤波器结构和原理的基础上,将已确定的频移量应用于线性共轭线性频移滤波器中得到一种能同时分离出两路源信号的单通道盲源分离方法。最后,在MATLAB环境下对混有白噪声的QPSK和BPSK两路时频重叠信号进行仿真验证,结果表明该方法可有效分离出两路源信号。