支持向量机是建立在统计学习理论基础上的一种新型的机器学习方法,由于具有良好的泛化能力,目前已经在许多领域得到了成功的应用。然而在应用过程中,支持向量机仍然存在一些不足:首先,为了降低求解优化问题的时间,需要采用逼近算法;其次,往往凭经验选择核函数,采用交叉验证法确定分类器参数,并不能保证参数的最优性,但目前仍然没有很好的解决办法;第三,支持向量机本质是两类分类工具,为解决多类问题需要进行扩展,但是无论采用组合多个两类支持向量机的方法,还是在同一个优化问题中考虑所有类别,其分类性能并不如解决两类问题时显著,有些方法在实现上也过于复杂。这些缺点降低了支持向量机的稳定性和泛化能力。集成学习通过训练和组合多个准确而有差异的分类器,为提高分类系统的泛化能力提供了一条新的途径,成为近十年来机器学习领域最主要的研究方向之一。目前,国内外以神经网络、决策树等为基分类器的集成学习研究已经取得了很大的进展,但是对支持向量机集成的研究起步较晚,还需要大量的工作。本文从这一现状出发,研究有效的支持向量机集成学习方法,主要研究工作及创新性成果包括:1)介绍了支持向量机的原理、算法以及多类扩展方法,从基分类器构造和基分类器组合两个方面详尽地总结了集成学习的一般方法,综述了当前国内外支持向量机集成学习研究的发展现状。2)提出了基于属性约简的集成学习方法。粗糙集理论中的属性约简方法可以作为学习算法的一种对冗余数据的预处理手段,但是由于数据噪声和离散化的影响,在许多情况下会降低支持向量机等学习算法的分类性能。对一个包含冗余属性的决策表进行约简可以获得多个不同的约简属性子集,这些子集通常具有较好的分类能力,而且彼此具有一定的差异性,因而可以用来构造支持向量机集成。属性约简集成学习方法能有效利用训练数据中的互补和冗余信息进行融合分类,克服数据噪声和离散化对支持向量机分类性能的不良影响。3)提出了基于属性离散化的基分类器构造方法,指出了三种可能的实现策略:随机选择断点;采用某一种离散化算法,并选择不同数量的断点;或者采用多种离散化算法获得不同的断点集。本文采用第一种策略,首先基于RSBRA离散化算法构造支持向量机集成。进一步地,针对RSBRA离散化结果可能可能较大程度降低支持向量机分类性能的缺点,引入粗糙集理论的数据一致性指标,对RSBRA算法进行改进,使得离散化结果能保留足够的分类信息。然后,在此基础上提出基于改进RSBRA算法的集成学习方法。4)在当前基于搜索技术的集成学习方法中,通常需要一类指标对基分类器的性能进行评估,但是这些指标很难在准确性和差异性之间取得良好的折衷,或者不能直接反映集成的泛化性能。针对这一问题,提出直接遗传集成学习方法,利用遗传算法直接在集成所在的空间搜索分类性能优良的集成。直接遗传集成很容易实现分类器的选择性集成,研究表明,在组合较少分类器的情况下获得了比传统集成学习方法Bagging和Adaboost更好的分类效果。5)研究了多类分类问题中的分类器组合架构,为克服已有架构的不足,提出简化的架构,避免分类器组合过程中不必要的信息损失。在此架构下研究基于证据理论的度量层组合方法,利用支持向量机的后验概率输出和分类精度,定义基本概率分配函数,然后采用一定的规则进行合成。特别地,当采用一对一的多类扩展方法时,可能出现严重的证据冲突,经典的Dempster组合规则不再适用。因此,基于冲突信息部分可用的思想提出新的证据组合方法,根据全体证据的整体有效性确定冲突信息的有用部分,然后将有用部分根据基本概率分配的加权平均在焦元中进行分配,有效地解决了证据冲突的问题。