雷达辐射源信号分选是电子侦察系统中的重要组成部分，也是电子对抗领域的关键技术之一。现在随着雷达应用的日益增多，电磁信号的密度越来越大，接收机在短时间之内就可能会接收到大量待分选的信号，这就使得信号分选模块的计算量迅速增大，难以满足应用中的实时性要求，并且大量新体制雷达的投入使用也使得信号环境日趋复杂，可能出现不同信号的参数十分靠近的情况，这使得信号分选准确率迅速下降。这些新情况的出现，对雷达辐射源信号分选领域的研究工作，提出了严峻的挑战。为应对这些新的挑战，本文主要做了如下工作：首先，在对当前已有的分选方法进行分析的基础上，提出了雷达辐射源信号在线核聚类分选方法。这一方法采用核映射将数据映射到高维特征空间，在特征空间中对多类信号数据进行聚类分选，它不需要预先知道聚类数目和初始聚类中心，分选准确率较高，计算速度相对较快，并且可以在线地对信号数据进行实时处理。最后用仿真实验对该方法进行了验证。其次，对在线核聚类分选方法中的惩罚项参数进行了优化。惩罚项参数衡量了惩罚项在瞬时风险函数中所占的比重。本文在对惩罚项的作用进行分析的基础上，提出将惩罚项参数设置为按照一定规律递减。仿真实验验证了这个优化策略的有效性。随后，又对在线核聚类分选方法中的梯度下降步长进行了优化。梯度下降步长是在线核聚类算法中的一个重要参数。经过分析，本文提出了两种针对梯度下降步长的优化方法，分别是步长递减法和步长的自适应调整方法。第一种方法将梯度下降步长设置为按照一定规律递减的，第二种方法则是利用随机元下降思想对步长进行自适应调整。本文对这两种优化方案分别进行了仿真实验。最后，在参数优化的基础上，提出了变参数在线核聚类分选方法，其中加入了惩罚项参数优化方法，并且利用了随机元下降思想对梯度下降步长进行自适应调整。最后进行了仿真实验，并与未优化时的在线核聚类方法进行了对比，实验结果验证了该方法在分选准确率，尤其是分选速度上的优良性能。