自动调制识别(Automatic Modulation Classification,AMC)是一种广泛应用于军事和民用领域的通信信号处理技术,采用预先设定的准则对带有噪声和干扰的接收信号调制类型做出判断。图域自动调制识别(Automatic Modulation Classification on Graph,AMC_G)是一种新兴的AMC技术,目前尚未形成完善的理论体系,具有广阔的研究前景和极大的挖掘空间。它结合图域数字信号处理理论和AMC技术,将通信信号的调制识别问题从传统的时、频域推广到图域,建立信号的图域表示并从中提取稳定的特征,最终实现调制类型的准确识别。现有的AMC_G算法通常以高斯白噪声为背景,然而实际通信环境并非都是符合高斯分布的,这种情况下已有的算法会产生性能衰退,因此非高斯噪声背景下的AMC_G算法研究具有实际意义。本文依托于国家自然科学基金项目,以基于分数低阶循环谱(Fractional Lower Order Cyclic Spectrum,FLOCS)的图域自动调制识别算法为研究课题,开展以下研究工作:1.针对二阶统计量在Alpha稳定分布噪声环境下失效的问题,提出基于FLOCS的图域映射及表示方法。对通信信号进行分数低阶循环分析,计算通信信号的FLOCS,基于FLOCS将通信信号映射到图域,建立相应的图域表示。2.针对现有AMC_G技术中特征提取算法缺乏可扩展性的问题,提出基于可变尺度调制备选集的特征提取与分类算法。根据通信信号的图域表示,利用Kullback-Leibler散度提取最佳特征,构建标准调制信号图域特征库,同时实现调制备选集中增加或删除信号时图域特征库的高效更新。在此基础上,结合基于汉明距离的图域分类器实现调制类型的自动识别。3.针对现有AMC_G算法的性能评估仅依靠仿真验证造成的评估形式单一化问题,提出正确识别率(Probability of Correct Classification,Pcc)的理论估计方法,在仿真实验以外增加Pcc理论评估环节,在不需要仿真实验的情况下实现Pcc的高精度预测和调制备选集尺度变化时Pcc的快速修正。仿真结果表明了基于FLOCS的图域映射算法的有效性,验证了基于可变尺度调制备选集的图域特征提取算法的可扩展性,证实了本文中的Pcc理论估计方法可以实现高精度的Pcc预测和调制备选集尺度变化时Pcc的高效更新。