数字通信信号的自动调制识别技术是通信系统中信号解调、信息提取和信号检测的关键技术，在合作和非合作通信领域都具有很重要的应用价值。本文在分析和总结国内外相关研究成果和最新研究进展的基础上，针对调制识别最重要的两个部分，即特征参数提取和分类识别进行了比较深入的研究。本文的主要研究内容和工作包含以下几个方面：首先，研究并实现了两种特征参数提取方法，即基于瞬时信息和基于高阶累积量的特征参数提取方法，结合这两种方法提取出一组性能优良的联合特征参数集，其中由于瞬时信息易受噪声影响，采用了改进的小波阈值消噪算法对其进行优化。其次，研究了基于决策树的分类器的分类性能，根据提取的联合特征参数集，设计了基于决策树分类器的十种待识别数字调制信号的判别流程。仿真分析了该分类器的识别性能，仿真结果表明当信噪比在5dB及其以上时，能获得较好的识别效果。由于决策树分类器过于依赖每个特征参数的选取以及受固定门限值的影响，在低信噪比条件下，识别性能不佳。再次，针对决策树分类器的缺点，引入了神经网络分类器，分析了BP网络的分类原理，给出了三种改进算法，仿真分析了三种算法的性能，并选取RPROP算法作为本文BP网络分类器的训练算法。仿真结果表明，神经网络用于模式识别作为分类器时，在信噪比为-2dB时能使所有信号获得98%以上的识别率，但其也存在明显的不足，如：存在欠学习、过学习和陷入局部极小值等问题。最后，鉴于神经网络的上述缺陷，设计了支持向量机分类器。在分析了支持向量机的基础理论和分类原理的基础上，采用与前面两种分类器相同的样本数据，仿真分析了支持向量机分类器在不同数量样本集、不同信噪比和不同样本长度情况下的分类性能，当数据长度为500、信噪比为-5dB时，所有信号能获得86%以上的识别率。在仿真过程中也比较分析了神经网络和支持向量机在低信噪比和小样本情况下作为本文分类器的不同性能，发现支持向量机分类器具有更好的分类性能。