支持向量机算法是统计学习理论中最年轻的分支,最初于20世纪90年代由Vapnik提出,它以统计学习理论中的VC维理论和结构风险最小化原理为基础,根据有限的样本信息,在模型的复杂性与学习能力之间寻求最佳折衷,获得了较好的泛化能力。目前,支持向量机正得到越来越广泛的应用。近年来,支持向量机的理论研究和算法实现已取得了突破性进展,开始成为克服“维数灾难”和“过学习”等传统困难的有力工具。支持向量机的基本思想是通过在原空间或经投影后的高维空间中构造最优分类面,将给定的属于不同类别的训练样本分开。最初支持向量机用于解决两类分类问题。但是实际应用中遇到的多为多分类问题,而且,即使我们能够很好地将两类样本正确分类,也并不意味着多类分类问题得到解决。如何有效地将SVM两分类方法推广到多分类领域是一个热门问题。 本文介绍了统计学习理论和支持向量机的基本思想。对几种主要的支持向量机多类分类算法进行了系统地研究,总结了基于二叉树的支持向量机多分类算法的不足：1.二叉树的生成结构对整个分类模型的分类精度有很大影响,可能产生误差积累现象。2.基于类距离和空间分布的二叉树生成方法均无法克服野点造成的影响。针对以上问题,文中综合考虑了类间距离、类内聚合度及最优分类面,提出了一种二叉树的生成策略,从理论上得到了良好的推广能力。