支持向量机(SVM)是一种传统的监督学习算法,可以用于分类、回归和分布预测,被广泛应用于各种数据分析的实际问题。其中,LIBSVM是应用最为广泛的SVM算法包,它被许多机器学习框架作为底层的SVM算法实现。然而,在大而复杂的问题上,SVM的训练和预测的计算代价很高。LIBSVM针对早期的单核CPU进行了优化,只提供了有限的并行化支持,但随着数据量和问题规模急剧增加,LIBSVM的训练和预测速度往往不能够满足现实算法调试和应用的需求。于是,许多研究者开始研究如何使用高性能计算硬件(例如图形处理器GPU)来加速SVM。然而,并行化SVM还有如下挑战:(1)SVM的训练需要重复地随机访问整个数据集,这导致高代价的随机内存读写和重复的计算;(2)现有的SVM训练算法是针对单核计算机提出的,没有考虑如何充分利用多核甚至众核处理器,充分并行化SVM需要重新设计SVM的训练算法;(3)多分类SVM需要训练多个二分类SVM,同时训练这些二分类SVM需要的内存空间往往超过了现有的硬件资源。为了解决并行化SVM的挑战,本文设计并实现了一个高效的开源SVM软件工具包ThunderSVM,它充分利用了高性能的GPU和多核CPU资源,采用了工作集缓冲的SVM训练算法,减少了内存随机读写和重复计算,利用多分类SVM中的核函数共享和支持向量共享策略压缩了训练和预测过程中的内存。实验表明,ThunderSVM的速度一般比LIBSVM快两个数量级,比GPU基线版本快5倍,并且训练出的模型准确率与LIBSVM相同。ThunderSVM支持LIBSVM的所有功能,包括分类(SVC),回归(SVR)和单类别SVM,并且跟LIBSVM有着相同的命令行接口。ThunderSVM还支持多种语言的接口,包括Python、MATLAB和R。目前,ThunderSVM已在最大的开源代码托管网站上发布(地址 https://github.com/Xtra-Computing/ThunderSVM)。截至 2019 年 4 月,ThunderSVM已经吸引了 900多个星标和130多个克隆,得到了研究者的广泛欢迎。