在现代化战场上,雷达辐射源信号分选是雷达对抗侦察的先导环节,对侦察的效果具有重大影响。然而随着雷达辐射源信号的参数越发多变,调制方式越发多样,空间中的电磁信号数量越发庞大,传统的雷达辐射源信号分选方法已不能处理如此庞大的复杂信号。如何准确地、具有学习能力地、能够适应信号环境地实现雷达辐射源信号分选是本文的研究重点。强化学习作为近年崛起的热门智能算法,表现出强大的交互学习能力,能在与复杂环境交互过程中不断逼近最优解,而循环神经网络作为一种典型的深度学习网络,在处理序列信号时表现优异。本文将机器学习中的循环神经网络与强化学习运用于雷达辐射源信号的分选中,研究了一种基于自适应思想的雷达辐射源信号分选方法。首先,分析常见的雷达脉间调制方式,研究如何利用自适应思想处理雷达信号分选问题的方法。在分析了脉冲描述字中脉冲重复间隔（Pulse Repetition Interval,PRI）、脉冲载频（Radio Frequency,RF）、脉冲宽度（Pulse Width,PW）的多种脉间调制规律的基础上,给出了不同调制方式的数学模型和对应的用途。接着指出传统方法采用固定的顺序流程处理雷达信号,没有对分选结果进行评价的环节,即使分选结果较差也无法进行修正。因此本文研究了一种利用自适应思想处理雷达信号分选问题的方法,该方法基于分选结果的量化评价,引入了自适应调整环节,明确了自适应分选的目标——分选结果评价渐近优化,设计出了自适应分选的基本框架。其次,研究分选结果的评价方式,并利用循环神经网络加以实现。分选得到的结果是多个脉冲序列,对应着多个辐射源,为了评价该结果,需要对每个脉冲序列进行开集识别,即判断该脉冲序列为哪一类常见脉间调制方式,或者不属于任意常见脉间调制方式的“负样本”类。本文利用生成式方法解决开集识别问题,即由常见的脉间调制样本生成错误分选的样本,构建完备的训练数据集,然后设计循环神经网络并且基于训练集进行训练。仿真实验结果表明,本文设计的网络能够准确地识别分选结果,并给出合理的量化评价值。最后,引入强化学习方法,结合分选结果的评价完成雷达信号的自适应分选。自适应分选方法首先需要对原始辐射源脉冲序列进行初始分选,以达到“去噪”、“数据稀释”的目的,本文采用改进的基于密度的噪声空间聚类算法（Density-Based Spatial Clustering of Applications with Noise,DBSCAN）完成初始分选。接着基于强化学习中的多智能体思想与自动学习机算法,本文提出了多智能体自动学习机算法,并将其运用于初始分选后的分选结果自适应调整环节,即根据分选结果的评价,利用多智能体自动学习机算法逐步调整分选结果,达到分选结果评价渐进优化的目标。仿真实验结果表明,本文的基于改进DBSCAN与多智能体自动学习机的分选算法,相较于传统的雷达信号分选算法,无论是在理想环境下,还是在脉冲丢失与虚假脉冲的非理想环境下,分选的效果都更理想。