分片线性分类器设计是模式识别与机器学习中的基本问题,该问题一直以来都受到研究者的广泛关注,但并未得到很好解决。组合凸线性感知器的提出,使这一领域的研究发展到了一个新阶段。组合凸线性感知器是用来构造分片线性分类器的一个通用理论框架,定义了凸可分、叠可分和凸线性感知器等核心概念。对于任意两类叠可分(即两类间不存在公共点)的数据,它能够实现有效的划分。组合凸线性感知器的原有构造方法称为支持组合凸线性感知器算法(SMA),该算法在实际分类任务中通常表现出不错的性能,但它仍存在两个主要缺点:(1)构造的分类器中包含了大量的线性函数,分类模型结构过于复杂,泛化能力有待提高;(2)要求数据集必须是叠可分的,影响该方法的使用环境和范围。在组合凸线性感知器框架下,本文重点研究分片线性分类器的构造问题,旨在有效解决SMA中存在的不足,并最终提升分类器性能和泛化能力。研究内容包括分类精度提升、分类模型简化、克服叠可分限制和新框架设计等四个主要方面,并相应提出了生长、极大切割、软间隔和交错式等构造方法。论文主要研究工作和创新点如下:1.提出了组合凸线性感知器的生长构造方法,用于提升分类精度。该方法由两个基本操作组成,即挤压和膨胀。对于凸可分情况,生长进程使用挤压操作将初始训练得到的分类边界推向内部凸区域,使其能够更好的拟合数据分布。对于叠可分情况,生长进程同时使用挤压和膨胀操作,来调整初始训练得到的分类边界,使其移动到更加合理的位置,并最终提高分类器的泛化能力。实验证实,相比于SMA,生长构造方法能够有效提高分类精度,最多可以提高10%左右,并且分类模型也得到了一定程度的简化。2.提出了组合凸线性感知器的极大切割构造方法,用于简化分类模型结构。该方法由两阶段训练构成,第一阶段称为极大切割过程,通过迭代不断寻求能够切开更多样本点的分类边界,并因此来构造尽可能小的决策函数集,最大程度减少决策函数集中线性函数的数量,最终简化分类模型。第二阶段称为边界调整过程,对极大切割后得到的初始分类边界进行一个二次训练,调整边界到适当位置,以提高分类器的泛化能力。标准数据集上的实验证实,相比于SMA,极大切割构造方法在保证分类精度的情况下,使分类模型中线性函数的数量都至少减少了50%,并且在部分数据集上减少超过了90%。3.提出了组合凸线性感知器的软间隔构造方法,用于克服叠可分限制。该方法利用二阶软间隔支持向量机的性质,首先将输入空间数据映射到高维特征空间,然后使用K均值聚类算法将其中一类样本聚成多个簇,并在每一簇与另一类样本间构造凸线性感知器,最后集成组合凸线性感知器。该方法能够改善分类性能并且缓解由于过拟合所带来的影响,更重要的是它能够解决SMA不适用于非叠可分数据的问题。实验评估证实了这种方法的有效性,同其他分片线性分类器的对比也说明了它的竞争力。4.提出了一个新的分片线性分类通用框架,称为交错式组合凸线性感知器。在极大凸可分子集基础之上,该方法首先定义了交错式组合凸线性感知器的概念,并通过一些定理证明了它的存在性和唯一性。与组合凸线性感知器不同,交错式组合凸线性感知器通常表现为凸线性感知器的嵌套结构,它是构造分片线性分类器的另一个通用理论框架。基于这个框架,支持交错式组合凸线性感知器算法被用来在一类数据的子集和另一类数据的极大凸可分子集间构造一系列凸线性感知器。最终这些凸线性感知器按顺序集成为交错式组合凸线性感知器。实验证实,交错式组合凸线性感知器通常比组合凸线性感知器具有更简单的分类模型结构,并且能够保证分类精度,在测试阶段执行更快。本文研究致力于促进组合凸线性感知器框架的发展和完善,并继续在此框架下,努力提升分片线性分类器的性能。文中所提方法有助于我们理解分片线性分类器的本质,并且能够对分片线性学习的进步产生积极的推动作用。