特定辐射源识别是一种利用接收信号中蕴含的无意调制信息来识别其所属辐射源个体的技术。由于信号的无意调制信息（也被称作辐射源的指纹特征）具备唯一标识性,使得特定辐射源识别技术在军事和民用领域得到了广泛的应用。然而,传统基于人工预定义指纹特征的特定辐射源识别系统在实际应用时却存在系统开发效率低、系统有效性无法保证等难以克服的问题,其根本原因是当前无法建立关于辐射源指纹特征统一、精确的数学模型,使得传统基于人工预定义方法提取的指纹特征存在通用性差、适用范围不明确等诸多问题。为有效解决传统特定辐射源识别系统存在的不足,本文将深度学习方法引入到特定辐射源识别领域中,研究了基于深度学习的暂态智能表征方法和稳态智能表征方法。为了进一步提高特定辐射源识别系统的通用性,本文研究了特定辐射源识别预处理操作中智能化的信号检测和信噪比估计方法。此外,本文还对辐射源个体的分类系统设计和弱标注条件下辐射源个体智能表征方法进行了研究。归纳起来,本文的主要工作和贡献可总结如下:（1）研究提出了特定辐射源智能识别系统处理框架和一般处理流程。本文首先分析了传统基于人工预定义指纹特征的特定辐射源识别系统存在的不足以及根本原因,在此基础上,提出了基于深度学习的特定辐射源智能识别系统处理框架。然后,阐述了特定辐射源智能识别系统的组成和处理流程,分析了特定辐射源智能识别系统不同与优势。最后,介绍了特定辐射源智能识别处理新方法。（2）研究提出了基于深度学习的智能化预处理方法。针对非合作场景下特定辐射源智能识别预处理中信号检测和信噪比估计的需求,本文在深入分析典型的信号检测方法和信噪比估计方法后,引入了深度学习理论,分别提出了一种基于深度学习的信号检测方法和基于深度学习的信噪比估计方法。实验结果表明,本文提出的信号检测方法和信噪比估计方法性能更优、通用性更强。（3）研究提出了基于深度学习的辐射源个体智能表征方法。本文首先分析了辐射源指纹特征产生的机理,然后针对非合作场景下基于暂态信号和稳态信号的特定辐射源识别任务需求,分别提出了基于深度学习的暂态智能表征方法和基于深度学习的稳态智能表征方法。最后通过实采数据证明本文提出的辐射源个体智能表征方法的性能更优、鲁棒性更好、通用性更强。此外,可视化的分析表明,基于深度神经网络提取的DNN特征具有类间差异大、类内聚集性好的特点。（4）研究提出了一种具备开集识别能力的辐射源个体分类系统。针对特定辐射源智能识别系统的开集识别任务需求,本文首先分析了基于深度神经网络提取的特征的特点,并针对该特点,提出了相应的辐射源个体分类系统架构。然后,研究提出了一种基于MGMM的异常目标样本检测模型和基于SD-DPC的聚类分析方法。实验结果表明,本文提出的辐射源个体分类系统能够从待分类样本集中有效地发现异常目标样本,提升已知目标的识别正确率,减少虚假新目标的产生以及筛选提取新目标的核心样本。（5）研究提出了弱标注条件下辐射源个体智能表征方法。针对特定辐射源智能识别系统在弱标注条件下的特定辐射源识别任务需求,本文首先分析了对抗训练方法能够提升深度神经网络泛化能力的原因,然后介绍了虚拟对抗训练方法,最后阐述了弱标注条件下基于虚拟对抗训练的辐射源个体智能表征方法。实验结果表明,该方法能够有效提升弱标注场景下基于深度学习方法表征辐射源个体的性能。