论文部分内容阅读
支持向量机(Support Vector Machine,简称SVM)是以统计学习理论(Statistical Learning Theory,简称SLT)为基础的优秀算法。此理论是专门针对小样本情况的统计学原理。传统的统计方法会出现“过学习”等问题,这是由于传统的统计方法基于的统计学原理都是将样本数据近似看成无穷大,但实际情况中样本数据是有限的。所以统计学原理与它们相比,更适应现实中的实际问题。在此理论上建立的支持向量机泛化能力更好。而核函数思想的引入,不仅解决了非线性情况,更避免了“维数灾难”,降低了实际的运算难度。支持向量机提出是针对二值分类问题,由于其良好的表现,人们逐渐将其推广到其它分类和回归领域。目前在分类方面的研究已经相对完善,而回归方面还在不断完善。支持向量回归机研究中较重要的一项就是改进算法。由于支持回归机是在支持向量分类机的基础上发展而来的,二者有密切的内在联系,我们以二值分类和回归为例证明了这种理论上的等价性。基于此我们可以将已有的分类算法应用到回归问题中,变成一种新的回归算法。本文就是应用这种思路提出一种新的算法。本文提出的新算法是以一类分类思想为基础的。一类分类算法是一种较特殊的分类问题,它是针对异常值检测的。而基于这种分类算法的新算法,是一种线性规划回归算法,与那些基于二次规划的算法相比,运算速度更快。我们通过正弦函数、混沌时间序列这两个实验,将新算法与标准支持向量回归法、最小二乘支持向量回归法、线性规划支持向量回归法比较,发现新算法的泛化能力要优于另外三种算法,从而证明新算法是有效的和可行的。新算法的提出体现了一类分类和回归之间的关系,帮助我们更直观地理解支持向量回归机的几何意义,启发我们可以尝试将更多的分类算法应用到回归问题中。