在互联网领域,数据集是随着时间的推移不断产生的,所以在完整的数据集上进行机器学习是个几乎不可能的事情,这就需要学习器能够不断地进行学习,而传统的机器学习方法已经无法满足这一要求。在线学习就是针对上述情况应运而生的,目前在线学习的主要技术手段是增量学习。另一方面,支持向量机(SVM,Support Vector Machine)作为机器学习领域的一个重要研究分支,因为自身完善的数学理论和良好的实际应用效果,目前在很多领域都获得了应用。但支持向量机属于性能稳定的分类器,不能进行增量学习,并有“灾难性遗忘”现象。所以如何让支持向量机应用到在线学习领域,也成为了目前的研究热点。本文针对这一问题,进行了如下工作：首先,先简要介绍了支持向量机的数学理论基础、基本概念和算法优势。然后,详细地介绍了一种支持向量机的快速分类算法。该分类算法根据样本集的几何结构信息,先从样本集中挑选出位于样本集最边缘位置的样本—壳向量,并将其组成新的样本集,进行支持向量机的训练,从而找出最优分类超平面。由于在对样本集进行壳向量提取时,采用的是线性规划的运算操作,其次壳向量集组成的新样本集只是原样本集的一小部分,所以能有效地降低二次规划运算过程的复杂度,从而达到提高训练速度的目的。另外提取壳向量集时,支持向量等关键样本也同样被提取出来,不存在丢失现象,所以对原算法的精度不会造成太大影响。最后,本论文在上述算法的基础上提出了一种基于壳向量的支持向量机Learn++集成方法。该方法将壳向量引入到支持向量机基分类器的训练过程中,并对基分类器采用Learn++集成,使得集成后的支持向量机分类器不仅能够有效地进行增量学习,而且缩短了训练时间、减小了存储规模。实验结果表明,集成后的支持向量机分类器不但具有在线学习的能力,而且还可以避免“灾难性遗忘”现象的产生。