通信侦察中,接收信号的有效分离是提高电子对抗效果的关键技术之一,它也是电子对抗实施有效干扰的前提。因此,通信侦察信号的分离方法在现代电子战系统中具有非常重要的作用。在军事领域,使用盲源分离技术的被动雷达应用于隐形战机上,该被动雷达只是通过接收信号来探测目标,它不发射任何电磁信号因此自身很难被敌方雷达探测到。在通信领域,盲源分离技术用于CDMA的全盲或者半盲多用户检测,能够有效地抑制远近效应和多址干扰。本论文主要研究了在信源个数未知以及复杂电磁环境下通信侦察信号的分离方法。首先对信源个数估计方法进行了研究,通过仿真实验对比分析,得到GIC（Generalized Information Criterion）和MDL（Minimum Description Length）在高信噪比条件下是信源个数的一致估计结论,它们在快拍数大于400点左右和信噪比大于2 dB左右,能够对信源个数进行较好的估计。其次对复数ICA的白化处理进行了改进,利用信源个数估计的结果来精确设定接收信号协方差矩阵特征值序列的阀值,用噪声方差的估计结果来修正信号子空间的主特征值,达到抑制噪声的目的。然后针对通信侦察信号是复数的特点,重点对复数T-CMN（Transcendental Complex Maximization of Non-Gaussianity）算法进行研究,并给出针对在信源个数未知以及复杂电磁环境下通信侦察信号分离方案,通过仿真实验对比分析,得到无论非线性函数是₂G或者₃G,对于含有加性高斯白噪声的信源,在SNR信噪比小于12 d B时,白化改进的T-CMN算法的分离性能都要优于原T-CMN算法的分离性能。另外,无论是低信噪比还是高信噪比条件下₃G对应的曲线分离性能优于G₂对应曲线的分离性能。最后,本论文基于T-CMN的通信侦察信号分离方案提出了一个通信侦察系统具体实验验证方案,该实验验证方案利用民用通信频段的“掩护”来达到保密通信的目的,并且验证了基于T-CMN的通信侦察信号分离方案的可行性。最后本论文对提出的通信侦察信号分离方案在软件无线电通用SDR平台上进行了工程实现。考虑到测试条件的限制,设计了通信侦察信号分离方案的算法在SDR平台上的部署和代码实现。开发了上位机界面,利用USRP产生FM测试信号,采用基于T-CMN的通信侦察信号分离方案,有效地分离出两路同频FM调频广播,验证了基于T-CMN的通信侦察信号分离方案的可行性。