支持向量机是近些年发展起来的一门机器学习分支,作为一种新颖而独特的机器学习方法,越来越受到重视。支持向量机作为一种强有力的学习工具,成为讨论和研究的热点,它在处理分类、回归领域问题时非常有效且具有很大的潜力和发展前途。本文对支持向量机及其数学模型展开了研究。首先介绍机器学习的研究背景和意义,概括支持向量机的研究发展情况、主要内容和算法。重点描述了SMO算法的具体算法步骤及其工作集的选取。其次在再生核Hilbert(RKHS)空间上,利用核函数的再生性重建了支持向量机的模型,并且引入误差使模型可以推广,得到新的二次规划模型。该模型降低了解的限制要求,适用于更广泛的情况。在求解模型时,将传统的直接分解法和SMO法进行比较。直接分解法思路是将矩阵直接分解,再进行求逆运算得到模型的解析解。SMO算法在每次运行时只用到高维矩阵的两列进行优化,减少了存储空间。由于在一次迭代过程中,只是二维的二次规划优化问题,可以直接求得解析解,这减少了算法运行时间。在SMO法中利用缓存技术,记录已算过的列,减少了核矩阵计算量,提高算法的效率。实验表明,SMO法与直接分解法相比,能大大增加矩阵的维数,加快运算速度。而采用缓存技术后可以减少计算大型矩阵的时间,在很大程度上提高运算效率。