未来的无线通信伴随着无线频谱资源的过度利用,信号会更为密集,多个信号分量彼此往往以时-频域重叠的方式存在于共信道中,这给后续信号处理带来了极大的困难,而单天线信号接收以其优越的成本和性能受到了越来越广泛的关注。本文引入了单通道时频重叠信号的循环平稳理论及模型,主要对时频重叠信号的三个重要方面—参数估计、调制识别、盲分离进行一系列的研究。本文详细介绍了循环谱相关的基本原理和实现方法,分析了信道多径效应对接收信号循环谱的影响,介绍了一种提高其运算速度的循环谱SSCA算法。通过分析不同类通信信号循环谱函数的表现形式,提出了一种以时频重叠双信号循环谱特征作为分类器的调制识别方法。循环谱具有区分不同循环频率族的时频重叠信号的能力,且极大抑制平稳噪声。仿真结果表明在数据长度一定的情况下,该算法合理且抗噪性较强。本文介绍了基于循环平稳特性的时频重叠信号参数估计算法。循环平稳特性可以间接地反映通信信号的某些潜周期性,如码速率和载频信息。分析了一种基于二阶循环统计量的单信道时频重叠信号码速率估计算法。在此基础上,本文提出了一种基于四阶循环累积量的时频重叠信号载频估计算法。该方法简单有效。仿真实验验证了算法可靠且适用信号范围广。本文针对单通道QPSK-16QAM时频重叠双信号,提出了一种利用接收信号二、四、六阶循环累积量构建分类特征的调制识别方法。该方法针对分类特征相近的QPSK和16QAM信号,选用支持向量机作为系统的分类器,与已有方法相比,该算法识别性能更趋稳健。最后本文介绍了两种频移滤波器的基本结构和原理,首先分析了基于训练信号的LMS频移滤波器的基本原理和结构。再扩展到基于盲LMS频移滤波器的信号分离问题,选用原接收信号代替训练信号,仅需精确已知期望信号分量的循环频率族和调制样式就可以进行信号分离。该方法应用在本文所研究的时频重叠双信号之中,收到了较好的效果。