雷达辐射源识别是电子对抗侦察系统中的关键环节,为后续实施电磁干扰和防御提供重要基础。现代战场电磁环境日益复杂多变以及随着雷达信号体制的不断发展,非合作雷达信号调制识别成为极具挑战的研究课题。传统调制识别方法存在极度依赖人工经验、对复杂电磁环境适应性差等问题,难以满足现代战场环境的需求。近年来,机器学习凭借强大的自学习和泛化能力,在信号处理领域取得了丰硕的研究成果。为了解决传统识别方法适应性差的问题,本文重点研究了机器学习在雷达辐射源调制识别领域的应用。本文的主要内容如下:1.在非合作信号领域,存在信号样本少以及难以训练深度网络的问题。针对这一问题,提出一种基于迁移学习和残差网络的雷达辐射源调制识别方法。采用改进的融合时频图像对预训练的残差网络进行迁移学习,实现雷达辐射源信号的脉内调制识别。本文分别在高斯白噪声和莱斯衰落信道条件下对训练好的模型进行识别对比,测试结果表明,在低信噪比时,对于存在多径衰落的信号样本,使用白噪声信号样本训练的残差网络识别效果更好。2.针对深度网络模型对部署设备计算资源要求高的问题,提出了一种基于轻量级神经网络的脉内调制识别方法。由于深层网络计算复杂度高,不利于信号的实时识别,本文采用非对称卷积核和分组卷积,构建了一种改进的轻量级残差网络。通过核心残差模块提取雷达时频图像的多尺度信息,改善雷达信号在低信噪比下的识别效果。仿真结果表明,与其他深度模型相比,在保证识别性能的情况下,本文提出的轻量级神经网络降低了对部署设备的算力要求,在信噪比为-8d B时,对13种雷达信号识别准确率达到了90%。3.针对人工提取的时频图像存在冗余信息、维数过高等问题,提出一种基于机器学习的雷达辐射源时序信号识别方法。通过引入注意力机制对残差模块提取的特征进行选择优化,并采用多个池化快捷连接方式对不同空间的信号特征进行融合,以提升网络性能。通过仿真实验对比,得到以下结论:1)所提方法识别性能优于传统方法和三种深度学习方法;2)在信噪比极低的情况下,采用时序信号的方法识别效果更好;3)对于相位调制信号,时频输入识别性能更优,对于常规脉冲和频率调制信号,时序信号作为输入总体效果较好。