论文部分内容阅读
支持向量机还是一门崭新的技术.无论是理论上还是实际应用中,都有许多问题亟待解决,如训练算法速度慢、参数值的选取等.论文针对以上问题,主要对支持向量机算法进行了研究.首先,介绍了论文的研究背景、统计学习理论的发展和支持向量机的研究进展及论文的主要内容.并对统计学习理论和支持向量机做了简单的介绍,如VC维、结构风险最小化原则、学习过程的一致性等.在此基础上,论文讨论了线性回归方法及神经网络用于解耦控制的缺陷.提出了一种分别基于KRR和SVR方法的开环解耦控制策略,从理论上分析了KRR与SVR用于函数回归估计的差异.并从实验上与采用神经网络的解耦控制系统进行了对比.参数选择是影响支持向量机实用性能的重要因素.以往的参数调整算法大都是建立在直接对整个参数空间进行搜索的基础上.当可调参数个数超过2个时,算法往往变得不可行.本文在分析现有参数调整方法的基础之上,提出了一种基于惩罚函数的有约束的参数调整算法,并主要应用于RBF核参数调整.仿真实验表明,该算法能够有效地调整支持向量机的参数,提高支持向量机的泛化性能,有利于支持向量机的广泛应用.支持向量回归算法是统计学习理论中的重要组成部分.本文对统计学习理论提供的支撑向量回归算法以及正则化方法进行了研究.支持向量回归训练算法需要解决在大规模样本条件下的凸二次规划问题.尽管此种优化算法的机理已经有了较为明确的认识,但已有的支持向量回归训练算法仍较为复杂且收敛速度较慢.为解决这些问题,论文首先引入在SVR的目标函数中引入阈值量b<2>/2,使其对偶问题中不含有等式约束条件.并采用扩展方法使之与支撑向量机分类算法具有相似的数学形式,最后在此基础上提出了一种简化SOR算法.与现有的由Smola设计的SMO方法相比,简化算法的数学形式简洁,在不增加算法空间和时间复杂度的前提下避免了大量繁复的判别条件,较大幅度地简化了算法实现,有利于SVR的广泛使用.先验知识在处理分类问题时起着十分重要的作用.正确考虑先验知识,能够帮助选择合适的分类器,降低分类误差.在实际中,数据的分布往往符合空间中某一特定形状.基于距离的分类器,通过选择合适的距离表述形式,能够充分利用数据空间分布的形状信息.本文在改进测地距离的基础上,提出了一种基于测地距离的支持向量机分类算法,并将它应用于实际数据的分类试验中.试验表明,基于测地距离的支持向量机能充分利用数据的空间分部信息,提高分类正确率.