支持向量机(SVM)是20世纪90年代中期出现的机器学习技术,是近年来机器学习领域的研究热点。这项技术从提出到现在不过十年时间,但其研究进展非常之快之大。它有坚实的理论基础,应用上也是有口皆碑。这项既经得起理论推敲又经得起实践检验的技术,是传统机器学习技术不能比的,它的发展潜力是令人鼓舞的。本文着重研究了支持向量机的序列最小优化(SMO)算法。论文共分五部分。第一部分是引言,概述了论文研究的背景,论文所要解决的问题。第二部分首先阐述了统计学习理论的产生,然后描述了统计学习理论的概貌。第三部分是支持向量机。支持向量机训练问题归结为求解一个最优化问题,首先给出线性可分SVM的原始优化问题,并从三个方面研究了这个原始优化问题:1)判断这个问题是凸二次规划问题;2)得出这个问题的对偶问题;31求其KKT条件,然后按照这个思想研究了线性不可分SVM和非线性SVM。最后给出SVM的显著特征和重要思想及其SVM的应用。第四部分详细分析了SMO算法。给出了SMO算法的推导过程以及每个子优化问题每步两个优化变量的选择策略。第五部分研究了SMO算法的改进及其收敛性。SMO算法通常采用的核函数是高斯核函数,在对数据进行测试时,发现测试错误率较高。SVM通常采用三种不同类型的核函数,通过对它们各自特点的分析,本文找到一种组合核函数——高斯核函数和多项式核函数的组合,并对数据进行测试,实验结果表明:测试错误率较低。本部分还分析了SMO算法的收敛性,首先推导SVM对偶问题的最优性条件,进而证明了SMO算法的收敛性定理。