数字信号对频谱具有较高的利用率,能够较好地抵抗信道损耗,其抗噪性能优异且具有良好的保密性能,可复用语音数据和视频图像等各种不同形式信息,数字调制种类日益繁多在现代通信中得到广泛应用。多进制相移键控（M-PSK）具有比多进制振幅键控（M-ASK）和多进制频移键控（M-FSK）传输效率高,抗噪性能强的优势,并且受信道特性变化的影响小,在中高速数据传输中应用广泛。多进制正交振幅调制（M-QAM）是一种重要的新型数字带通调制技术,能够在保证拥有多进制相移键控（M-PSK）的带宽、功率等优点的基础上,同时改善了PSK在进制位数增大时的噪声容限低的弊端,因此本文主要针对两种优秀且应用广泛的相移键控（M-PSK）调制方式和正交振幅（M-QAM）调制展开低信噪比下调制识别的研究工作。本文通过实验设计,优化了低信噪比模式识别实验方案:通过对接收的含噪信号进行降噪预处理,根据其调制原理进行时频分析确定强表征能力的信号特征。基于改进Res Net50调制识别模型在低信噪比下对BPSK、QPSK、8PSK、16PSK、4QAM、16QAM、32QAM、64QAM,共8种调制信号展开调制识别研究工作。本文的主要研究内容和创新点包含以下三个方面:（1）基于降噪自编码器（Denoising Auto-encoder,DAE）数字信号降噪。非协作通信信道电磁环境复杂,接收信号在传输中受噪声污染成为信噪比（Signal Noise Radio,SNR）较低的含噪信号,导致调制模式识别准确率降低。针对低信噪比信号调制识别准确率低且传统含噪信号降噪算法效果有待提升的问题,本文进行如下改进:采用基于卷积神经网络的降噪自编码器算法对含噪信号降噪,通过与传统小波阈值降噪算法在-5d B到15d B间隔为2.5d B信噪比条件下对BPSK、QPSK、8PSK、16PSK、4QAM、16QAM、32QAM、64QAM信号降噪效果对比,以信号误码率参量作为评价指标通过仿真实验验证了本文引入降噪自编码器算法对含噪信号降噪效果优于传统的小波阈值降噪算法,提高了低信噪比条件下调制模式识别准确率。（2）基于时频分析的数字信号特征提取。针对数字信号时频分析不充分、信号特征提取单一问题,本文进行以下改进:基于调制原理进行时频分析选择星座图和循环谱两种特征表征能力强的信号频谱作为M-PSK和M-QAM的8种多进制调制信号数据特征。将循环谱进行Z轴归一化转换为RGB循环谱后,进一步将星座图和RGB循环谱做灰度化处理转换为灰度图进行数据叠加作为网络的输入数据。在数据预处理的方面入手,通过对比实验验证了视频分析后提取的信号特征通过数据叠加后作为网络模型的输入数据,有效提升了调制识别准确率。（3）基于改进Res Net50特征拼接数字调制模式识别算法。残差神经网络在分类任务中表现优异,本文基于深度学习调制模式识别研究方案网络模式识别部分选用Res Net50网络模型进行分类。针对输入数据特征单一导致信号分类准确率低的问题,本文将信号星座灰度图和信号RGB循环谱灰度图进行特征叠加作为网络的输入并通过对Res Net50嵌入通道注意力模块提取特征图各通道之间的统计信息等操作完成对特征图各通道数据特征的重标定,实现网络模型优化。本文通过对仿真的M-PSK、M-QAM数字信号加入高斯白噪声模拟现实际通信中的-5d B到5d B（间隔为2.5d B）含噪信号,经过降噪自编码器降噪处理后转换为信号星座灰度图和RGB循环谱灰度图,通过特征叠加作为改进Res Net50模型的输入数据,进行调制模式识别。通过基于改进Res Net50网络模型的三种仿真数据集对比实验,结果表明两种数据叠加后的仿真数据集识别准确率更高;通过基于同一数据集的不同卷积网络调制模式识别准确率的对比,结果表明改进的Res Net50调制模式识别效果更优。实验结果表明,在低信噪比条件下,本文设计的研究方案对M-PSK、M-QAM两大类共8种多进制数字信号调制模式准确识别效果更优。