认知无线电因可提高频谱利用率,在民用和军用领域得到广泛应用。在认知无线电系统中,如何有效识别已授权用户发送信号的调制类型,对频谱感知性能的提升有重要意义。且调制识别作为信号检测和信号解调的中间步骤,是保障可靠通信的关键技术之一。本文主要研究认知无线电系统中多种单载波数字调制信号的调制识别。首先,通过分析不同数字调制信号的高阶累积量理论值,可知在较少先验信息下,提取信号序列的二、四、六、八阶累积量对2ASK、4ASK、QPSK、8PSK、16PSK、8QAM、16QAM以及32QAM八种调制类型的识别最具有效性。基于调制信号的高阶累积量理论值和传统决策论,通过人工设计决策特征和决策阈值,构建分层分类结构实现调制识别。仿真结果表明,对于加性高斯白噪声信道中采用符号间隔采样的信号序列,基于传统决策论可实现10d B信噪比下95%以上的识别率。其次,由于人工设计的特征和阈值易受噪声等因素干扰而造成较大误差,因此本文提出一种联合高阶累积量和判别式受限玻尔兹曼机的调制识别方法,基于判别式目标函数训练判别式受限玻尔兹曼机实现调制识别。判别式受限玻尔兹曼机相对于传统决策论在不同干扰下具有更佳识别性能。且相对于常用的决策树、随机森林以及支持向量机算法,其具有更简单的模型参数选取过程。仿真结果表明,判别式受限玻尔兹曼机在信号含有时钟偏移干扰时,识别性能较决策树、随机森林以及支持向量机有明显优势。最后,虽然利用提取的高阶累积量实现调制识别的方法具有针对性强、特征表达维度低的优势,但同时也丢失了原始信号序列包含的其它调制特性。针对此问题,本文提出一种基于原始信号序列和卷积神经网络的调制识别方法,设计了一种可自适应进行特征提取和调制类型识别的卷积神经网络。在网络的设计过程中,引入全局平均池化层代替常用的全连接层,有效减少了网络训练参数和训练复杂度。仿真结果表明,当网络其它结构相同时,全局平均池化层相对于全连接层具有更优识别性能。且所提卷积神经网络在不同干扰下相对先前所提算法均具有更高识别精度。