凭借优异的信息隐藏能力和易于组网等优点,扩谱通信技术已成为抗干扰通信中的主流方法。单纯依赖扩谱抗干扰技术难以适应未来战场复杂电磁环境下的军事通信需求。为了进一步提高现有通信装备的抗干扰能力,本文围绕扩谱通信抗干扰中的现代信号处理方法及相关扩展应用展开研究。本文首先探讨了利用盲源分离混合矩阵逆问题求解方法进行扩谱通信抗干扰的可行性,设计了点对点和组网方式下基于盲源分离的扩谱通信抗干扰系统结构,提出了结合负熵对照函数的盲源分离直接序列扩谱抗相关干扰算法。为提高强噪声环境下的抗干扰效果,充分利用实际采样速率较高的系统特性,设计了基于均值滤波的盲源分离抗相关干扰算法。分析了非协作盲接收环境下用户异步时延的构成,从前后符号在当前接收窗口的有效能量角度推导了用户异步时延对抗干扰算法收敛性的影响,并利用三角不等式进行了论证。考虑跳频载频的跳变对混合信号统计独立性的影响,设计了基于盲源分离的跳频通信系统抗干扰算法,并对各种类型干扰进行了算法性能仿真及硬件测试。根据跳频信号与各种干扰信号之间时频分布均不相同的特性,提出了基于时频联合的盲源分离抗干扰算法,从矩阵的联合对角化出发实现了跳频信号与干扰信号的有效分离。基于跳频图案等先验信息,设计了基于跳频图案的半盲分离跳频通信抗干扰算法。根据扫频干扰信号的特点,设计了匹配扫频信号的非线性变换,提出实时扫频信号特征检测方法,通过自学习获得了能量聚集特性优异的扫频干扰压缩感知字典。根据多音干扰与跳频信号在时间、频率分布上不一致,分别提出了自学习多音干扰压缩感知字典和自学习跳频信号压缩感知字典构造方法,使得低信噪比时能够识别多音干扰和正常的跳频信号,为实时可靠地解调创造了有利条件。将基于形态结构特征学习的字典构造与压缩感知方法结合,提出多形态自学习压缩感知跳频通信抗干扰算法。利用自学习压缩感知字典的稀疏表达能力,设计了单通道自学习压缩感知跳频信号抗干扰算法,在自学习过程中将检测到的强干扰分量去除以减小干扰影响。理论分析和仿真验证表明本文算法在低信噪比和强干扰条件下具有优异而高效的抗干扰能力。最后,总结了信号自身内在形态结构特征的广泛存在性,提出匹配信号形态特征的稀疏表达域自学习构造方法,从而可以在较小的字典规模下高效地进行信号的重构,为压缩感知方法实用化进行了有益的探索,并拓展应用于图像超分辨率重构,获得了优异的重构效果。