本文对再生核Hilbert空间中的最小二乘正则化回归学习算法做出改进,提出了基于多尺度核的分布式正则化回归学习算法。在回归问题中,对于一些分布不平坦且样本规模较大的复杂数据,本文基于多核方法和分布式学习方法,将样本数据集随机划分成多个互斥的样本子集,着重考虑到每个子集中数据波动程度不同,因而在每个子集上采用不同系数线性组合成的多尺度高斯核函数,并由这多个不同尺度的高斯核所生成的再生核Hilbert空间的和空间作为假设空间,通过最小二乘正则化回归算法同时独立地进行学习,从而得到一个局部估计,最终将所有局部估计加权合成得到该样本的总体估计。不同尺度大小的高斯核所组合成的多核方法可以很好地结合各个单核的特性,尽可能地拟合复杂数据中不同的波动程度和变化趋势;基于分而治之思想的分布式学习方法,可以降低核矩阵求逆运算所需的运行时间和存储成本,有效地提高算法的运行效率;在不同样本子集上设置不同的多尺度核函数组合系数,使其在每个子集上进行动态变化,可以让多尺度核函数具有一定的自适应能力。本文通过两个模拟数据集和四个真实数据集对所提出的改进算法和已有的三种算法的表现性能展开实验分析。实验结果表明,本文所提出的改进算法可以在较短的时间内达到较佳的拟合效果,不仅能够保证较优的拟合能力,也可以成功地降低算法正常实现所需的运行成本。