调制识别作为非协作通信领域一项关键技术,是接收端对信号实现正确解调获取相关信息的前提,在各种民用和军用领域中都发挥着重要作用。而软件无线电作为一种多功能无线电通信平台,具有灵活性、通用性和功能模块化等特点,为调制识别的工程应用提供了支持。本文针对通信信号调制识别问题提出了两种调制识别算法,并挑选其中一种与软件无线电相结合,设计出基于软件无线电的通信信号自动检测识别系统。本文的主要研究工作如下:（1）提出一种基于高阶累积量的调制识别算法,计算信号的二至六阶累积量作为特征参数,并结合决策树分类器,把调制识别问题进行分解,通过逐级处理的方式实现对信号的逐一识别。同时针对16QAM信号和64QAM信号各阶累积量值相近,难以区分的问题,引入一种递归降阶的方法对这两种信号进行降阶处理,然后用多个高阶累积量组合作为特征参数,对两种信号进行识别。仿真结果表明,当信噪比为10d B时,该算法的识别准确率可以达到99%以上。（2）针对在低信噪比条件下通信信号调制识别结果准确率较低的问题,提出一种将卷积神经网络（Convolution Neural Network,CNN）与支持向量机（Support Vector Machine,SVM）相结合的调制识别算法。首先将调制信号映射成二维星座图,并根据归一化密度对星座图进行上色处理,增强星座图特征,然后利用带有残差模块的CNN网络对星座图进行特征提取,最后将提取到的特征值输入到SVM分类器实现分类识别,仿真结果表明,与其他CNN网络模型相比,CNN-SVM模型能够有效提高算法在低信噪比区间的识别准确率,当信噪比为-2d B时,该算法的识别准确率可以达到98%以上。（3）根据工程应用中对于实时性的需求,将基于高阶累积量的调制识别算法与软件无线电相结合,搭建出基于软件无线电的通信信号自动检测识别系统。利用Hack RF One硬件对信号进行接收,在GNU Radio软件平台中通过编写自定义模块实现对接收信号的频率和符号速率估计、时钟同步、分类识别及相位校正,最后通过时域波形图和星座图将识别结果直观的反映出来。测试结果表明,该系统能够快速准确的识别出通信信号的调制类型。该论文有图43幅,表12个,参考文献57篇。