认知通信对抗已经成为现代化电子战重要组成部分之一,为了获得电磁频谱权,实现智能抗干扰通信对电子战的意义非凡。整个信号的处理流程可以概括为对信号的感知、识别和处理。对于干扰方来讲,认知干扰需要具有对通信信号有波形跟踪、波形设计、动态变化和知识储存等能力,能够以较小的功率对敌方信号实现有针对性干扰从而阻碍通信。而对于抗干扰方来讲,认知抗干扰需要完成对抗干信号的精确感知、识别和参数提取,根据干扰信号的特征,以最小的代价进行智能的抗干扰决策。认知的过程和深度神经网络的构建相似,信号和环境间的隐形关联和信号本身的特点可以通过深层的网络来提取;决策的过程与强化学习的过程相似,每次决策都要取决于当前干扰的环境和未来干扰的变化。本文考虑将机器学习运用于智能抗干扰通信系统中,针对传统无线通信系统波形设计陌生固化,设计自由度受限,自适应抗干扰能力不足,难以应对非常规的高效干扰的问题,探索在复杂多变电磁环境中能够自适应应对信道、噪声和干扰的影响的通信端到端和跳频抗干扰系统。本文首先构建了基于神经网络的端到端通信系统模型,系统包括编码器、译码器、信道估计、信道模拟四个神经网络参数化模块。在前向传播过程中,编码器负责根据先验信息生成波形,由译码器将其转换为比特流数据并计算译码损失。在参数更新过程中,译码损失通过梯度信息反向传播算法传递给译码器、信道和编码器;编码器进一步根据反向传播的梯度信息更新参数后生成新的波形。在反向传播的过程中,由于信道通常难以写成显示函数表示用以传播梯度,使用了条件对抗生成网络来模拟信道,实现了梯度信息反馈到编码器。对于对抗生成网络中需要的信道信息,本文建立了基于残差网络的信道估计神经网络,将信道的最小二乘估计作为初始输入,利用残差网络将不需要先验信息的情况下进行去噪,实现误差更低的信道估计。针对高效的调制瞄准干扰基于神经网络搭建智能抗干扰通信系统。通过联合的星座图设计、信道编码和功率分配,在单载波和多载波抗干扰通信都有较好的表现。最后针对线性扫频干扰和随机干扰两种动态干扰构建了用强化学习来进行抗干扰最优跳频图案的设计的模型,将通信收益和跳频损失作为强化学习的收益,由于实际通信中干扰信号通常是未知的,模型主要采用蒙特卡洛和时序差分两种无模型方法进行跳频图案学习。