支持向量机(Support Vector Machines，简称SVM)是在统计学习理论的基础上发展起来的一种新的学习方法，它已初步表现出很多优于已有方法的性能。由于采用了结构风险最小化原则代替经验风险最小化原则，使得较好的解决了小样本学习的问题；又由于采用了核函数思想，使它把非线性空间的问题转换到线性空间，降低了算法的复杂度。正是因为其完备的理论基础和出色的学习性能，该技术已成为机器学习界的研究热点，并在很多领域都得到了成功的应用，如人脸检测、手写体数字识别、文本自动分类等。但是作为一种新兴技术，SVM在很多应用领域的研究还有待探索和完善。例如：核函数和参数的选择缺乏理论指导、缺乏容噪性能、训练算法的完善、不支持增量学习、缺乏和先验知识的整合能力等等。这些问题的存在，使得SVM在很多领域的应用受到了很大限制。本文在学习探讨SVM算法的同时，对SVM在图像处理领域的几种应用进行了论述。 本文工作包括： (1)最优化理论的学习以及训练算法的本质 SVM训练的本质是解决一个二次规划(Quadratic Programming，简称QP)问题，这是最优化理论的范畴。本文通过简要介绍最优化理论，力图说明SVM众多算法的改进方向。 (2)SVM在图像处理中的一般使用 在对SVM学习特点的深入分析基础上，论述了其在图像处理中的应用，比如简单图像分类、遥感图像分类等等。 (3)SVM在人脸检测中的应用 主成份分析(PCA)的特征脸方法已经在人脸检测、人脸识别、人脸跟踪中取得了较好的结果。但是，主成份分析具有一定的局限性，它体现的是图像集的低维统计特征，而对于图像上类似多个点之间相互关系的高维统计特征没有进行反映。针对这个问题，本文提出了用Kernel PCA来提取图像特征，并用支持向量机(SVM)进行分类的方法。Kernel PCA不仅能够反映图像的高维特征，而且不会发生维数爆炸带来的灾难性后果。