论文部分内容阅读
孪生支持向量机(Twin Support Vector Machines,TWSVM)是在近似支持向量机(Proximal Support Vector Machines,PSVM)和基于广义特征值近似支持向量机(Proximal SVM based on Generalized Eigenvalues,GEPSVM)的基础上提出的机器学习算法。与PSVM、GEPSVM相比,TWSVM为每一类样本求解一个超平面,两个超平面没有平行条件的约束,将二分类问题转化为两个规模更小的二次规划问题,从而将训练时间约减到SVM的1/4,能较好地求解异或(XOR)问题,且分类性能优于PSVM、GEPSVM,但和支持向量机一样,TWSVM仍需解决模型选择问题。TWSVM的性能取决于核函数的选择和惩罚参数及核函数本身参数的选择,如何选择核函数及相关参数即为模型选择问题。研究TWSVM的模型选择问题具有重要意义,所以本文从模型选择问题入手对TWSVM进行研究以提高其性能,本文的主要研究内容如下:首先,本文研究使用量子粒子群算法对孪生支持向量机进行参数优化,利用量子粒子群的全局搜索能力搜索最优参数,从而避免了利用经验值指定参数的盲目性,进而提出了基于量子粒子群优化的孪生支持向量机(Twin Support Vector Machines based on Quantum Particle Swarm Optimization,QPSO-TWSVM),实验表明QPSO-TWSVM提高了TWSVM的分类准确率。接着,本文研究使用混合核函数用于解决解决TWSVM的核函数选择问题,混合核函数选取一个全局核函数和一个局部核函数构造出一个性能更优的核函数,进而提出了基于混合核函数的孪生支持向量机(Twin Support Vector Machines based on the Mixed Kernel function,MK-TWSVM)。为了进一步解决MK-TWSVM的参数选择问题,本文进一步研究使用蛙跳算法对其进行参数优化,在此基础上提出了基于蛙跳算法优化的混合核孪生支持向量机(Mixed Kernel Twin Support Vector Machines based on the shuffled frog leaping algorithm,SFLA-MK-TWSVM),实验表明该算法提高了TWSVM的性能。最后,本文研究了小波分析技术和基于小波分析构造的核函数在孪生支持向量机中的应用。小波分析具有多尺度插值和稀疏变化的特性,而基于小波分析构造的小波核可以逼近任意非线性函数,适合于信号的局部分析和突变信号的检测,所以本文在此基础上提出了小波孪生支持向量机(Wavelet Twin Support Vector Machines,WTWSVM)。实验证明用小波核函数不但提高了TWSVM的分类精度和泛化能力,而且拓宽了TWSVM核函数选择的范围,但WTWSVM同样面临参数难确定的问题,所以本文进一步研究使用人工萤火虫算法对其进行参数优化,提出了基于人工萤火虫算法优化的小波孪生支持向量机(Wavelet Twin Support Vector Machines based on Glowworm Swarm Optimization,GSO-WTWSVM)。