认知无线电Underlay模式技术中,次用户可以在保证主用户正常通信的条件下与其共用同一段频谱进行通信,相对于将频谱单独分给主用户使用的情况,大大提高了频谱的使用效率,该技术已成为解决当前频谱资源短缺问题的重要研究内容之一。但Underlay频谱共享是在干扰温度范围内同一信道中多个用户的信息同时进行传递,该信道中信号存在时频域重叠问题,接收信号模型更为复杂。此外,在信号处理研究中,调制识别是判断接收信号的调制方式的过程,间接影响干扰温度的值,同时为接下来的信号解调提供参考依据,且对于频谱管理、非法信号监测等研究都具有重要意义。本文主要研究认知无线电Underlay模式下信号的调制识别方法。具体研究内容如下:1.认知无线电Underlay模式下,本文针对时频重叠MQAM信号的调制方式识别率低的问题,提出了一种基于时频分析和灰度-梯度共生矩阵的调制识别方法。该方法首先通过频率切片小波变换(FSWT)对时频重叠MQAM信号做时频分析,得到时频分析图像;接着选取图像中纹理差异明显的切片部分进行灰度化处理;然后计算处理后的时频分析图像的灰度-梯度共生矩阵;最后将特征向量输入概率神经网络分类器进行分类,从而实现时频重叠MQAM信号的调制识别。为验证所提方法的有效可行性,本文从不同的信噪比(SNR)和信号个数、不同频谱重叠率以及不同功率比等方面进行实验仿真,结果表明:当SNR为4dB时,所提方法的平均识别率可超过95%;所提方法对分量信号的功率比及频谱重叠率均具有较强的稳健性。此外,在所提方法与传统方法的对比实验中,当SNR大于0dB时,所提方法的调制识别性能优于传统方法。2.认知无线电Underlay模式下,本文还提出一种基于循环谱等高图和卷积神经网络(CNN)模型的时频重叠MPSK/MQAM信号的调制识别方法。所提方法是通过对接收信号初步特征提取,然后用CNN模型进行特征的深层提取作为特征量来实现信号的调制识别,具体过程为:首先,求接收信号的循环谱等高图;接着对循环谱等高图进行预处理,作为初步特征数据输入CNN模型;然后构建和优化CNN模型并完成训练;最后使用训练好的CNN模型进行信号的调制识别。实验仿真结果表明:当SNR为2dB时,所提方法的平均识别率达90%;且在分量信号的功率比及频谱重叠率等方面均具有较好的稳健性;在对比实验中,虽然所提方法比第一种方法识别效果差,但当SNR大于0dB时,该方法的调制识别性能优于传统方法。