论文部分内容阅读
支持矢量机(Support Vector Machines,简称SVM)是基于统计学习理论的一种新的模式识别技术。由于采用了使用结构风险最小化原则替代经验风险最小化原则,使它较好的解决了小样本学习的问题。又由于采用了核函数思想,使它把非线性空间的问题转换到线性空间,降低了算法的复杂度。正因为SVM理论有较为完备的理论基础和较好的学习性能,使得它成为继神经网络研究之后新的研究热点,并将推动机器学习理论和技术有重大的发展。尽管SVM理论的性能在许多实际问题的应用中得到了验证,但是该算法在计算上存在着一些问题,包括训练算法速度慢、算法复杂而难以实现以及检测阶段运算量大等等。本文针对上面的问题,主要对SVM算法进行了研究,集中进行了下面一些研究工作。 首先对SVM理论进行基本概念上的介绍,并深入探讨了SVM算法的基本理论。然后对两种具体的SVM算法——SOR算法和LSSVM算法进行了进一步的深入研究,并利用MNIST数据库对这两种算法性能进行比较。 其次针对大规模训练集,为了克服训练算法速度慢,提高训练速度,提出了一种简单的增量学习方法——SISVM。这种算法通过仔细分析SV分布的特点,采用小规模的矩阵运算来代替大规模的矩阵运算。实验结果表明,该算法有效的提高了训练速度。 最后将SVM算法应用到遥感图像的分类,通过与自适应最小距离法和K近邻法的实验结果进行比较,得出SVM算法具有更好的分类效果,也说明了SVM算法在遥感图像分类方面具有很好的应用前景。