调制识别在无线电频谱资源监测和管理、电子侦察以及干扰识别等方面具有广阔的应用前景。复合调制信号一般具有两种调制方式的优点且又弥补了二者的缺点,因此在新型通信信号中已被广泛使用。与传统单一调制信号相比,复合调制信号的信号特征存在明显差异,导致传统的识别方法不能用于复合调制通信信号识别。因此,研究适用于复合调制通信信号的识别方法,具有重要意义。本文围绕复合调制信号与单一调制信号混合信号集(BPSK、QPSK、OQPSK、BPSK/FM、QPSK/FM)的识别分析问题,研究了传统决策树与基于卷积神经网络的识别算法,并通过仿真验证了算法的有效性。本文主要研究工作如下:1.分析了复合调制信号的信号模型,分别从信号的时域和频域分析了复合调制和单一调制信号的特性,推导出不同信号类别的差异特征,为后续五类混合信号的识别和参数估计提供了理论基础。2.研究了一种基于决策树的调制识别方法,通过能量检测、信号带宽和中心频率粗估、复合调制解调、多级滤波器抽取实现了信号调制类型的自动识别,并仿真验证了该算法的有效性。3.研究了一种基于卷积神经网络算法的信号自动识别方法,该方法可简化决策树方法的门限设置、阈值调整、频谱分析等步骤。与传统决策树算法相比,能在不解调情况下,实现对FM二次调制的类内识别。4.分析了复合调制信号的参数估计方法,可实现复合调制信号的载频和副载频的准确估计;采用基于时域叠加瞬时自相关码速率估计算法实现了对PSK信号和FM内调制信号的码速率估计;采用基于平方谱的码速率估计算法实现了对OQPSK信号的码速率估计。