无线通信技术的快速发展和大量应用导致了无线信道环境日益复杂。调制方式识别作为非合作通信的关键技术之一,在军用和民用领域的信号检测、干扰分析和频谱监测等方面有着广泛的应用。随着调制技术的发展和信道环境的复杂化,区分度更大的特征和性能更好的分类器一直是研究人员所不断追求的。首先,本文介绍了10种调制方式的调制特征,10种调制方式分别为2ASK、4ASK、8ASK、2PSK、4PSK、8PSK、2FSK、16QAM、32QAM、64QAM,介绍了高阶累积量、瞬时特征提取和循环谱的原理。利用数字调制信号所具有的循环平稳特性,设计了基于循环谱零循环频率处归一化谱线的值来完成信号的存在性检测。仿真结果表明,本文所有调制样式的正确检测概率在信噪比大于-10d B时都可以达到90%以上。其次,利用调制信号在幅度、相位上的差异,通过瞬时幅度、瞬时相位和高阶累积量构造了6个特征参数,用来区分10种调制方式。对于4PSK和8PSK难以从瞬时信息上区分这一难点,本文基于瞬时相位信息,在已知符号速率的前提下提出了一种新的特征——分段相位均值最大值。仿真结果表明,使用决策树分类器,2种信号的识别准确率在信噪比不低于4d B时能够达到90%以上;采用包含新特征的特征集使用决策树分类器进行分类时,除了8ASK在信噪比不低于11d B,64QAM在信噪比不低于13d B识别准确率才能达到90%以上之外,其余调制方式在信噪比不低于4d B就可以实现90%以上的识别准确率。然后,在分析了机器学习中的支持向量机分类器和3种常用的多分类转二分类的分类策略的基础上,重点研究了支持向量机与一对一策略结合实现10种调制方式的多分类算法。针对一对一分类策略无法充分利用基础分类器的正确判决概率和错误判决概率等所有信息这一缺点,本文提出一种基于置信权重系数矩阵的改进多分类算法。仿真结果表明,信噪比在-10d B与-6d B之间时,基于置信权重系数矩阵分类算法的平均识别率比使用一对一策略的支持向量机分类器提升约4%。最后,对于本文所使用的所有瞬时特征,通过DSP硬件处理平台完成了算法实现与验证,并测试了分类的正确率。测试结果表明,在误差允许范围内,硬件处理平台与软件仿真的计算结果基本一致,证明了该算法在实际应用中的可行性。