多进制相位调制是无线通信中的一种主要调制方式,具有抗干扰性强、频谱利用率高、电路实现简单等优点,被广泛应用于卫星通信、民用移动通信中。其子类信号二进制相移键控信号、四进制相移键控信号和八进制相移键控信号的识别一直是调制识别领域中的热点问题。传统调制识别算法方法需要强大的专业知识和工程技巧来设计特征提取器,难以实现信号特征的自动提取。因此,本文将卷积神经网络应用到调制信号识别领域中,对多进制相位调制信号的特征进行自动提取,从而达到识别的目的。首先,利用信号发生器和接收机等仪器,对实验所需的多进制相位调制信号进行了采集。利用采集信号的原始同相正交数据、时频信息和时相信息建立了适用于卷积神经网络训练的三种不同的数据集。其次,针对多进制相位调制信号的原始数据,研究基于卷积神经网络的同相正交数据识别。为将卷积神经网络应用于时序信号,对适用于图像的卷积神经网络结构进行了改良,设计了适用于同相正交数据集的卷积神经网络模型CNN-IQ。CNN-IQ具有92.8%的识别准确率。通过与传统机器学习算法的对比,验证了卷积神经网络的识别性能以及特征提取能力。然后,为了进一步提升对多进制相位调制信号的识别准确率,研究了基于卷积神经网络的时频图识别。多进制相位调制信号的时频图能够比较完整的包含信号的关键信息,但同时具有相似程度极高、肉眼难识别的问题。因此,通过对卷积神经网络的经典模型进行改进,提出了一种深层网络ReSENet。ReSENet网络结合了经典模型ResNeXt和SENet的特点,能通过深度学习和特征重定向学习到数据中复杂抽象的特征,最终在时频图数据集上达到了99.9%的识别准确率。最后,从星座图的角度研究了基于卷积神经网络的多进制相位调制信号的识别。实际采集信号的星座图会因为符号间干扰、信号发射端和接收端的载波频率不同,出现分布混乱的情况。针对此问题,提出一种邻点聚类旋转算法来恢复实测信号星座图,并将恢复后的星座图输入到了本文设计的4层卷积神经网络CNN-4中进行训练,最终达到了99.9%的准确率。此外,计算了时频图识别所使用的ReSENet和星座图识别所使用的CNN-4的复杂度,并由此对ReSENet和CNN-4进行了对比和分析。