论文部分内容阅读
孪生支持向量机在机器学习领域有着广泛的应用,其主要目的是用来解决二分类问题,是多分类问题在现实生活中是最为常见的。因此研究人员对孪生支持向量机进行改进,提出了许多不同策略的多分类孪生支持向量机用于解决多分类问题。多生支持向量机作为一种新型的改进方法,其每一个二次规划问题的大小只受到相应类的数据规模的限制,相比于其他的多分类孪生支持向量机具有计算复杂度低、训练速度快等优点。因此倍受研究者们的青睐。然而,多生支持向量机在建立模型时忽略了样本数据的结构信息,这些信息可能包含一些重要的先验知识。同时多生支持向量机经常凭借经验值或网格搜索法进行参数选择,使得算法容易陷入局部最优解。本文结合样本数据的结构化信息来改进多生支持向量机,同时在多生支持向量机的参数选择方面,利用群智能优化算法对其进行优化,以提高算法的分类准确率。其主要研究内容如下:首先,本文研究了基于能量的结构化最小二乘多生支持向量机。对结构最小二乘孪生支持向量机进行改进,提出了基于能量的结构最小二乘孪生支持向量机。它通过为每个超平面引入能量因子,将结构最小二乘孪生支持向量机二次规划问题中的不等式约束转化为基于能量因子的等式约束,该算法在降低时间复杂度的同时能够减轻噪声点对算法的影响。在此基础上,将基于能量的结构最小二乘孪生支持向量机扩展到多分类问题中,提出了基于能量的结构化最小二乘多生支持向量机。为了验证算法的有效性,我们在UCI数据集上进行了测试并使用Friedman检验和ROC分析进行统计分析。实验结果表明,本文提出的算法具有良好的分类性能。接着,本文研究了基于动态量子粒子群优化算法的结构化多生支持向量机。在经典的量子粒子群优化算法的基础上定义了粒子个体搜索能力因子,将其作为反馈信息动态调整CE系数,提出了一种动态量子粒子群优化算法。随后,本文将该算法用于基于能量的结构化最小二乘多生支持向量机中,对其参数进行优化。该算法利用动态量子粒子群优化算法优秀的全局搜索能力,不仅搜索速度快,而且能够防止算法过早地陷入局部最优解,具有很好的全局收敛性,避免了参数选择的盲目性,使得基于能量的结构化最小二乘多生支持向量机的分类性能进一步提高。最后,本文通过实验对动态量子粒子群优化算法和基于动态量子粒子群优化算法的结构化最小二乘多生支持向量机的有效性进行了测试。实验结果表明,本文提出的动态量子粒子群优化算法的收敛效果较经典的量子粒子群优化算法有比较大提升。而且在UCI数据集上的实验表明,动态量子粒子群优化算法能够为基于能量的结构化最小二乘多生支持向量机找到更加合适的参数,提高了算法的分类准确率。该论文有图15幅,表17个,参考文献80篇。