随着无线通信的发展,无线资源的需求与日俱增,频谱资源越来越稀缺,为了充分发掘可用频段,同时避免用户之间的频谱利用冲突,认知无线电应运而生,频谱感知是认知无线电中的核心技术之一。认知用户通过频谱感知,分析信道内用户接入状态,为后续动态频谱接入提供依据。传统识别技术往往依赖先验信息,并且无法利用多源数据特征,基于机器学习的智能识别算法具有优异的多源数据拟合能力,是近年来该领域的研究热点。然而已有的智能检测研究很少考虑非合作条件下识别的可靠性问题,非合作条件下人工智能方法将面临如下几个方面的挑战。首先,难以在非合作条件下获得充足的用户数据,因此目标数据具有稀缺性,模型在训练过程中易出现过拟合问题。其次,空间中的噪声会带来信道干扰,影响信噪比,继而而给智能感知算法的有效性带来影响。第三,在非合作条件下,尤其是高速跳频条件下,接收机难以精准跟踪载波的频率与相位。针对上述问题本文提出如下方法:1、针对非合作场景下的频率偏移影响,设计了一种基于星座图密度聚类的频偏校正方法,并通过设计微调VGG-16网络实现对偏移不敏感的信号识别。2、在此基础上,研究了一种基于领域知识嵌入的卷积神经网络方法,将校正运算嵌入了神经网络结构,相比于基于密度聚类的频偏校正具有更高的实时性。3、针对目标样本稀缺问题,设计了一种基于孪生网络的元学习识别算法,可基于少量样本进行类别匹配,并有效区分未知标签。此外通过在网络中嵌入旋转不敏感特征,提升了相位无法有效同步时的识别有效性问题。实验基于开源数据以及软件无线电平台,验证了小样本条件下目标识别的有效性。4、模拟非合作条件下的时间、相位、频率不同步的实际应用场景,基于软件无线电搭建了半实物仿真实验平台,平台可支持多台发射机、接收机、干扰机。完成了相关软件的开发以及硬件的调试,在多种电磁频谱环境下分别基于不同类别的软件无线硬件构建了射频数据库,并基于实测数据对所设计的算法进行了验证。本文设计了三种信号识别算法,重点针对非合作条件下的相位、时钟、频率同步困难问题,以及小样本问题进行了攻关。此外基于ETTUS,DEEPWAVE等多品牌软件无线电硬件,结合GNURadio工具搭建了非合作的电磁环境,验证了算法的有效性。本研究对于非合作条件下的频谱识别具有重要的意义。