当前，通信技术发展很快，信号种类繁多，调制方式多样。在复杂的通信信号中对OFDM与单载波信号进行类间识别，以及单载波信号进行类内识别很有意义，但这两类的识别算法中，传统的识别算法均存在算法复杂，计算量大的缺点，因此对于常用算法的改进，降低算法运算量的研究很有必要。本文将对传统方法进行分析，通过提取新的特征参量来达到降低计算复杂度的目的。首先，针对OFDM及单载波信号的类间识别问题，本文对OFDM的系统原理及信号特性进行分析，在此基础上对OFDM及单载波信号的频谱进行仿真，通过对仿真结果对比得出两类信号在频谱峰值，频谱平坦度，旁瓣能量方面差异较大的结论。根据此理论结果，基于频谱特性构造特征参数对两类信号进行特征提取，通过仿真实验，得出理论判决门限值将两类信号分离。同时，还基于此算法对实际数据进行识别，以验证此算法的有效性。其次，在对OFDM和单载波信号完成类间识别后，继续对信号集中单载波信号的类内识别进行研究。本文先对经典的Nandi参数识别方法进行介绍，通过对其算法进行分析，得出该算法计算复杂度高的弊端，在此基础上从减小计算量的角度，运用了基于迭代算法的单载波类内调制方法，完成对经典Nandi参数的改进，并用此算法，对信号集中的信号进行判决门限的仿真和识别率实验，仿真结果表明，此法在降低计算量的同时，在信噪比大于7dB时保持了很高的识别率。在此基础上，采用信号解调法和改进的迭代算法对实际数据进行类内识别，通过实际的识别结果验证此法的有效性。最后，本文针对空间中复杂的信道环境，就多径效应和多普勒效应对两类信号分别进行分析。对于OFDM信号，推导了在多径瑞利信道下，存在多普勒效应时的用于类间识别的特征参量dn20，并进行门限判决实验和识别率实验，验证该法的有效性。对于单载波信号，研究了多径效应和多普勒效应对单载波各信号的影响，分别采用加入特征值σdf和提高门限法，来对该影响进行补偿，通过识别率实验，验证了这两种方法的有效性。综上，本文对OFDM及单载波的类间及类内调制识别的一般算法分别作出了改进，达到了减小算法复杂度的目的，同时，对多径效应和多普勒效应对识别过程中的影响作出分析，并给出一定的补偿方法。