论文部分内容阅读
基于多核的分类器能同时考虑多个核空间,在处理多源的、异构的、不规则且高维空间分布不平衡等问题具有较好的效果。经验核映射能显式地将样本映射到核空间中,便于处理和分析样本在核空间的结构信息。通过在多核分类器中采用经验核映射来构造核空间,人们提出了多经验核分类器。现有多经验分类器在设计时忽视了样本间的信息、无法表征不同样本对决策超平面的贡献度、并且构造经验核映射的计算复杂度高,很难用于处理大规模分类问题。为了解决现有多经验核分类器的上述问题,本论文研究工作主要从以下几个方面展开: 1)采用局部保持约束来表征样本在核空间的局部信息,并将其引入到多经验核分类框架中,提出了一种局部保持约束的多经验核分类器,有效克服了现有多经验核分类器容易忽略样本间局部信息的缺陷,提高了分类器的分类精度。 2)提出了一种动态成对约束的多经验核分类器。该分类器采用动态成对约束来表征样本在核空间的相互信息,不仅解决了局部保持约束的多经验核分类器自适应性差的问题,还有效提高了多经验核分类器在实际应用中的分类精度。 3)提出了一种模糊多经验核分类器。它能为不同样本分配不同模糊隶属度来表示样本类别信息的确定程度,解决了传统多经验核分类器无法表征不同样本对决策超平面具有不同贡献度的问题,提高了多经验核分类器处理实际问题的有效性。此外,为了估计样本在核空间的模糊隶属度,设计了一种基于局部密度的模糊隶属度估计方法。 4)提出了一种多分块经验核动态分类器,缓解了现有多经验核分类器高计算复杂度的问题。该分类器采用多分块经验核映射有效降低了构造经验核映射的计算复杂度和空间复杂度。此外,设计了一种动态学习策略在分类器训练阶段动态地选择对决策超平面更重要的训练样本,解决了多分块经验核映射丢失样本信息的问题。 5)提出了一种多随机经验核分类器。该分类器使用随机经验核映射有效解决了多分块经验核映射构造核空间受限于核空间数的问题。此外,多随机经验核分类器能解析式地求得模型的最优参数,能快速有效地解决大规模分类问题,解决了现有多经验核分类器采用基于梯度的优化方法容易收敛于局部极小解,以及采用分解法处理多类问题导致决策超平面存在模糊区域等问题。 为了验证所多经验核分类器的有效性,本论文在机器学习数据库、手写数字、图像数据集上与主流的基于核的分类器做了大量对比实验。本论文实验结果表明在分类器设计时考虑更多样本局部信息,以及为不同样本分配合适的模糊隶属度能有效提高分类器分类糟度。此外,多分块经验核映射和随机经验核映射有效缓解了多经验核分类器的高计算复杂度和空间复杂度问题,使得采用多经验核分类器处理大规模分类问题成为可能。