机器学习在各个领域得到广泛应用,宽度学习系统(Broad Learning System,BLS)作为一种新型的随机前馈神经网络,有助于机器学习中的特征表示和数据分类。由于BLS具有高效的训练方式和良好的泛化能力,近几年来吸引了广大学者的学习和研究。BLS中的特征节点是由原始特征随机映射得到,特征节点再次经过随机映射之后变成增强节点,接着特征节点和增强节点拼接在一起构成了BLS的隐藏层。当隐藏层确定之后,宽度学习系统输出层的权重通过求解伪逆来确定,不依赖于反向传播算法,不需要进行迭代更新,具有更好的泛化性和更高的训练效率。但是BLS却有两个缺点:1)BLS的分类性能过度依赖于隐藏层节点的数量,并且需要人工调整,两层节点所需要确定的参数规模较大;2)双重随机映射带来不确定性,导致模型对噪声数据的敏感度提高,并对性能产生不可预知的影响。本文针对宽度学习系统存在的问题,提出了两个改进方法。第一个是对BLS增强节点的生成方式进行改进,提出基于核方法的宽度学习系统(Kernel-based BLS,KBLS),将从第一次映射获得的特征节点转换到核空间而不是随机特征空间中。这种操作可以减少节点生成中的不确定性,提高算法的鲁棒性,同时又固定了增强节点的数量,不再需要进行人工调整。第二个改进方法是为了进一步提高基于KBLS的稳定性和抗噪声能力,提出基于Boosting的渐进式集成框架(Progressive ensemble kernel-based BLS,PEKB)。该集成方法通过对先训练的基分类器的预测损失进行梯度和次梯度求解,得到残差作为后续基分类器的训练标签,在达到停止条件后把所有基分类器的结果进行集成得到最终的结果。本文对提出的算法进行了详细的复杂度分析和参数分析,针对现有的随机前馈神经网络方法,在20个标准数据集上进行了对比实验,并将算法应用于网络入侵检测领域的大规模数据集上。实验结果表明本文提出的方法在准确性和稳定性方面都达到了较好的效果。