近年来,随着无线通信技术的不断演进,无线通信业务类型和带宽呈指数级增长,然而其发展瓶颈在于有限的频谱资源。无线电频谱分析作为无线通信领域的重要技术,旨在即时评估可用频段频谱,优化频谱资源分配,提高无线电频谱利用率。其中,信号调制识别技术是无线电频谱分析中关键一环,但在复杂的电磁环境下,其准确度和稳定性都难以保证。因此,本课题立足于加性高斯白噪声信道下无线电频谱分析需求,聚焦通信信号调制识别的关键理论和技术方法研究,设计了基于信号增强密度星座图和深度学习的通信信号识别方法,旨在实现高精度,高鲁棒性的调制方式识别目标。本文主要贡献如下:(1)本文从通信技术和业务需求发展的角度,说明了选题意义和研究的必要性,由浅入深地分析了通信信号的调制技术和数学模型,介绍了正交调制技术的信号星座图表征及目前识别方法存在的问题。(2)针对现有技术中对信号表征和学习能力不足等问题,提出了基于信号增强密度星座图和特征空间压缩网络的调制识别方法。构建了信号特征优化方法,设计了特征空间压缩卷积神经网络,提出了基于特征类间分离和类内聚合的特征空间压缩损失函数。设计了不同信噪比下不同调制信号识别仿真平台,仿真验证了所提出的方法可进一步增强信号表征能力,提高网络模型的学习能力,与传统深度神经网络方法相比在95%识别率下可获得约0.5-2dB的性能增益。(3)针对现有技术对可识别调制类型范围小且训练时间复杂度高的问题,提出了基于多特征的级联卷积神经网络的调制识别方法。采用了多特征输入,构建了更适应输入特征的深度卷积神经网络和基于注意力机制的密集连接网络,得到了对不同类特征训练的级联卷积神经网络结构。设计了不同信噪比下不同调制信号识别仿真平台,仿真验证了所提出的方法可以挖掘信号特征的不同通道间的关联性,实现全局层面对特征的学习与传输,将可识别调制类型扩大为七种,保障了信号调制识别的准确率的同时,降低训练时间复杂度。