论文部分内容阅读
分类所关心的一个根本问题是如何有效地提高分类系统的泛化能力。尽管传统的分类技术在一些领域己经得到了成功应用,其泛化能力也得到一定程度的认可,但是随着时代的进步和科学技术的不断发展,人们对其技术成果有了更高的要求,这就意味着需要开发新的有效技术来满足人们深层次的需求。多分类器集成技术就是在这样的背景下产生的,它通过集成多个满足一定条件的学习个体来达到有效改善分类系统泛化能力和鲁棒性的目的。分类器集成已民成为机器学习和数据挖掘等领域的一个研究热点,其研究人员众多,成果亦层出不穷。
分类器集成技术之所以有效,参与集成的基分类器除了需要具有准确性以外,还需要具有一定的差异性,分类器的差异性反映了基分类器之间的关系,使集成系统能够利用不同分类器之间的互补信息。论文围绕分类器差异性度量的定义和分类器差异性与准确性之间所存在的关系,对分类器差异性度量和集成方法进行了研究。
论文的主要工作包括:
(1)简单介绍了多分类器集成技术的发展现状、相关概念和工作机制,总结了几种不同集成方法的框架,对当前常见的集成方法进行了分类整理,概要归纳了这些方法所存在的主要不足。
(2)总结了现有分类器差异性的定义,在互信息差异性的基础上提出了一种新的差异性度量方法MCC,该方法均衡了个体分类器的准确性与参与集成系统中其他分类器之间的差异性,一定程度上解决了集成算法中所出现的“差异性.准确性”矛盾,有利于集成系统的构建。
(3)在MCC的基础上提出了一种多分类器选择集成算法MCC_DSE、MCC_SSE。算法计算并将具有最大MCC的分类器加入到集成系统中。实验表明,算法MCC_DSE、MCC_SSE具有较好的泛化能力。
(4)在MCC的基础上提出了一种分类器聚类集成算法——MCC-Means,该算法通过K-Means聚类,利用各分类器簇的中心分类器组成集成系统,实验表明,相比于Adaboost.M1算法和bagging算法,MCC-Means具有更好的性能。