伴随着通信技术的发展,精准且高效的信息交互成为了当代人对通信技术的基本诉求。在需求的不断增长下,通信技术逐渐突破,调制种类逐渐增多,通信质量逐渐提高,但这也使得现有的频谱资源逐渐紧张匮乏。在频谱资源紧张的情况下,能量更聚集的连续相位信号应运而生,它以其相位连续、能量聚集、包络恒定等优势备受青睐,为此大部分研究人员从现有的非连续相位信号衍生出一些连续相位信号,在有限的频谱资源下提升通信质量。然而这也带来了以下问题,一方面非连续相位信号与连续相位信号在信号特征方面具有较高的相似性,在低信噪比下特征提取模糊时较难识别。不能正确识别信号种类并提取先验信息会对通信系统中解调等部分造成很大困扰。另一方面,在频谱资源密集的情况下,同频干扰对通信系统带来了更大的危害,为确保通信的安全可靠性,更有效的信号抗干扰算法成为当务之急。为此本文从两方面出发在复杂的通信环境下探究性能更佳的信号识别算法与信号抗干扰算法。在连续相位信号与非连续相位信号混合的通信环境下,连续相位信号的信号特征与非连续相位的信号特征相似度较高,在广泛应用的瞬时谱特征识别算法中,会因为在低信噪比下特征提取模糊,导致不能很有效的进行识别。其中SOQPSK信号是一种典型的从PSK信号演变而来的连续相位信号,与相移键控信号、频移键控信号的频谱特征相似,识别困难。为解决在连续相位与非连续相位混合情况下因特征提取模糊而较难识别的问题,本文针对连续相位与非连续相位混合信号集{SOQPSK,2FSK,BPSK,QPSK},提出一种基于盲数字接收机与拟合优度检验的识别算法。首先,盲数字接收机中的锁相环对信号进行特征提取;然后,统计同相支路的累积分布函数,采用拟合优度检验算法进行初步分类;最后,根据信号的同相支路信息、正交支路信息、频率变化等特征进行区分,实现了对各类信号的识别。仿真实验表明,和运用瞬时幅度谱进行识别的传统算法相比,本文算法具有更好的性能,在低信噪比下信号特征提取模糊时也具有较好的识别能力在频谱密集的复杂环境下,接收到的信号受到同频窄带干扰影响较大,信号解调性能严重下降,为保证通信的安全可靠性需要对接收信号进行干扰抑制处理。传统单阵元抗干扰算法从干扰的局部域特征出发,进行干扰抑制处理。这种基于局部域特征提取的抗干扰算法,不能反映干扰特征的整体特性,在干扰特征提取不精确时,系统抗干扰性能下降。本文以通信系统中常见的BPSK信号为研究对象,提出一种基于生成对抗网络的BPSK信号抗干扰算法。该算法先将信号进行图像化构造,通过生成对抗网络构建出受干扰信号图像与未受干扰信号图像的映射关系,将干扰抑制问题转化为分布映射问题,通过搭建精准的分布映射关系实现干扰抑制。理论分析和仿真实验表明,这种基于生成对抗网络的信号抗干扰算法比传统频域陷波抗干扰算法具有更好干扰抑制的性能。