调制类型的自动分类是信号检测与解调的中间环节，它是自动辨识接收信号调制类型的技术。调制分类是非合作通信的技术的一个分支，它需要经典通信技术的辅助，包括信号检测，参数估计和信道辨识等。而这是一个非常有挑战性的难题，特别是在非合作环境中没有接收信号先验知识的情况下。调制分类所关注的信号通常埋藏在噪声中，比如高斯白噪声、冲击噪声，并且信号环境经常是恶劣的，比如衰落、多径等。通常调制分类的模型被建立成多假设统计检验问题，从一系列候选调制类型中做出选择。调制分类是一个高速发展的信号分析领域，近年来受到了越来越多的关注。它在民用以及军事领域都扮演着重要的角色，广泛地应用于频谱监督和管理、干扰辨识、军事威胁评估、电子对抗、源辨识等多种领域。本文主要研究了非理想条件下的调制分类问题，最主要是平坦慢衰落信道中的调制分类问题，另外还研究了存在其它未知参数的情况，包括非合作通信引起的载波频偏、相偏、信号幅度、噪声功率和频率选择性衰落引起的码间干扰等。1．导出平坦衰落信道中调制分类的平均似然率检测(ALRT)方法的总框架，这个框架同时适用于线性和非线性调制。随后具体地将此框架应用于平坦衰落信道中频移键控(FSK)信号的分类，以及正交幅度调制(QAM)信号的分类，给出了各自的似然函数和分类器。其中FSK信号分类器的性能通过接收特性方法进行了分析，并且此分类器被推广成异步和近似分类器；基于ALRT的QAM信号分类器与另一种基于幅度概率密度函数的分类器作了比较，证明两者有相同的分类性能。2．针对平坦衰落信道中的线性调制信号的分类问题，提出基于高阶累积量(HOS)的分类器。选用接收信号的4阶累积量作为分类的统计量，针对不同的衰落模型推导了不同星座4阶累积量的理论值。对估计累积量的均值和方差进行分析，理论和仿真证明了平坦衰落信道中接收信号4阶累积量的估计值是渐进无偏的一致估计。最后给出了基于HOS方法的调制分类器，并且对其性能进行了理论和实验分析。3．针对频率选择性衰落信道中接收到的线性调制信号，将蒙特卡罗马尔可夫链(MCMC)方法引入到调制分类中，用于解决在多个参数未知的情况下的调制分类问题，这些未知参数包括非合作通信引起的载波频偏、相偏、信号幅度、噪声功率和频率选择性衰落引起的码间干扰等。基于MCMC方法的分类器是一种广义似然率检测分类器，其中包含的未知参数借助于MCMC方法估计，未知参数的均值作为它们的最大后验估计值。MCMC方法中用到的未知参数后验条件分布在文中进行了推导。4．应用多重天线接收技术，提出一种基于等增益分集的调制分类算法。多重天线的接收信号经过等增益合并后得到合并信号，合并信号的4阶累积量作为调制分类的特征。不同星座的合并信号的4阶累积量的理论值在文中进行了推导，利用这些理论值形成分类器。