自多载波调制技术出现以来，实现多载波信号的自动识别引起了研究人员的关注。小波包调制是一种基于小波包变换的新型多载波调制技术，具有频谱利用率高，抗多径干扰和码间干扰能力强，易于实现多速率传输等特性。本论文以小波包调制信号和OFDM信号为研究对象，通过提取合适的特征参数，在三种常用的通信仿真信道（包括加性高斯白噪声信道、瑞利衰落信道和频率选择性衰落信道）下，对小波包调制信号和OFDM信号的分类识别进行研究。论文主要研究工作及创新如下：1．系统地综述了小波包调制和OFDM调制的基本原理和实现方法，在此基础上，基于小波包调制信号和OFDM信号在分数阶傅里叶变换域分布的不同，利用图像成形技术，对接收信号的分数阶傅里叶变换域分布图进行处理，分别在加性高斯白噪声信道、瑞利衰落信道和频率选择性衰落信道中，探讨了小波包调制信号和OFDM信号的分数阶傅里叶变换域分布的特征参数，利用支持向量机，提出了基于支持向量机的小波包调制信号识别方法，实现了这两种多载波调制信号的分类识别。计算机仿真结果，验证了该算法的有效性和稳定性。2．利用小波包调制信号和OFDM信号的双谱分析的二次相位耦合不同，提出了基于双谱估计的小波包调制信号识别方法。双谱分析能充分反映二次相位耦合的特性，通过提取反映两者双谱差异的特征参数，实现这两种多载波调制信号的分类识别。仿真实验结果表明，在加性高斯白噪声信道、瑞利衰落信道和频率选择性衰落信道中，该算法具有良好的分类性能和较高的稳健性。