调制识别技术是指在缺少先验知识的条件下,通过分析研究接收到的信号样本,来判断信号所采用的调制方式及其他参数的技术。调制识别技术作为一直以来通信领域中的一个研究热点,广泛应用于信号监测、频谱管理、电子对抗等多个军民用通信领域。目前,调制识别研究主要使用特征提取和模式分类结合的方法。随着人工智能技术的飞速发展,深度学习理论也越来越多的应用到调制识别领域。与传统的调制识别算法相比,基于深度学习的调制识别算法能从信号数据中自动地学习到更深层的特征表示,往往取得更好的识别效果。本文就深度学习技术在调制识别领域的应用做出了以下两部分研究。第一部分,研究了基于奇异值降噪和卷积神经网络的频率键控信号调制识别。首先,根据奇异熵理论对三种接收信号(2FSK、4FSK、8FSK)样本降噪处理;然后,计算降噪后信号样本的循环谱特征图;接着,对循环谱特征图做一定的变换处理;最后使用卷积神经网络进一步提取特征,并完成分类。在仿真分析中,对比了三种算法的识别率:本文提出算法、循环谱特征图与卷积神经网络结合的算法、循环谱切片向量和神经网络结合的算法。结果显示,本文提出的算法实现了更高的识别率,并且在信噪比-10dB条件下识别率接近100%。第二部分,研究了MIMO系统中基于自编码网络的数字信号调制识别。空分复用MIMO系统中复杂的信道环境给调制识别的研究带了很大的挑战。本文提出的算法首先提取五种调制信号(2PSK、4PSK、8PSK、16QAM、32QAM)的累积量特征;然后使用自编码网络处理信号累积量,得到新的低维非线性特征;然后用神经网络完成分类。在仿真分析中,对比了四种算法的识别率:本文提出算法、直接使用十二维累积量的算法、人工挑选三维累积量的算法、累积量经PCA降维处理的算法。结果表明,本文提出算法优于其他三种算法,在信噪比OdB的情况下识别率接近100%。