盲信号分离是信号与信息处理领域一个非常活跃的研究方向，并且已经在地震勘探、语音信号处理、生物医学工程等领域得到应用。在非协作环境下通信信号处理领域也有着诱人的应用前景。 现有的通信信号盲分离的信号模型一般都采用阵列天线的接收信号模型，其基本的假设条件包括：源信号数目已知且等于观测信号数目(正定情况)，混合矩阵的系数时不变等。分离所采用的算法是典型的盲分离算法，如FastICA、EASI、JADE算法等。而随着研究的不断深入和实际应用的需要，对通信信号盲分离算法提出了更高的要求。 本文以非协作通信信号接收和处理为应用背景，对混合通信信号盲分离方法和算法做了较为深入研究。主要工作包括以下几个方面： 1.讨论了阵列天线接收的混合通信信号盲分离。介绍了阵列天线接收信号的混合模型、典型算法以及盲分离算法的性能评价指标，并研究了影响算法性能的主要因素。 2.从两个方面研究了低信噪比下通信信号盲分离问题。一是增加接收天线数目，变正定信号模型为过定信号模型；研究表明，过定情况下，盲分离算法能够通过预处理提高接收信号的信噪比并估计噪声功率，从而使得算法性能得到改善。二是利用数字通信信号的循环平稳性，给出了适用于分离二阶、四阶循环平稳通信信号的盲分离算法，并从理论和实验验证了算法受平稳噪声的影响较小。 3.提出了一种适合与分布式天线接收的混合通信信号盲分离的思想和实现方法。其基本思想是利用通信信号的循环平稳特性，对信号模型的参数进行估计、并利用干扰抵消和Kalman滤波恢复出源信号，理论分析和仿真实验表明了该方法的有效性。另外，基于这个方法，并利用最大比合并原理，给出了分布式天线系统处理单个源信号的方法。