支持向量机(Support Vector Machine,SVM)是一种基于统计学理论发展而来的监督式机器学习算法,由于其出色的学习性能,已经成为当前机器学习广泛关注的热点。它在解决小样本、非线性和高维模式识别问题时表现出许多特有的优势,并有效地克服过拟合等问题,从而被广泛应用于模式识别、回归分析、函数估计、时间序列预测等各个领域。但是,随着大数据时代海量数据的大量增加,如何高效地处理大规模非线性支持向量机模型,避免维数灾难成为研究的焦点。本文围绕如何处理大规模非线性支持向量机模型来进行算法理论改进与应用研究工作。首先,本文回顾了支持向量机基础理论以及算法的发展,从而引出本文的研究背景与意义,进而分析SVM算法在发展过程中所遇到的问题。其次,本文对支持向量机的两种模型分类和回归分别进行了阐述。并且介绍了随机梯度下降(Stochastic Gradient Descent,SGD)算法与核函数在两种非线性支持向量机模型中的应用。最后我们提出了新的高效的改进算法来解决大规模非线性支持向量机。算法的改进分别从支持向量分类(Support Vector Classification,SVC)和支持向量回归(Support Vector Regression,SVR)算法展开。在大规模非线性SVC算法中,提出一种高效的基于核相似性的支持向量删减策略(SVs reduced Strategy,SRS):在非线性SVC模型中的每一次SGD迭代中,如果一个样本被记录为支持向量,则核函数会计算该样本与支持向量集合的核相似性,那么当核相似性大于设定的阈值时,SRS策略就会删减掉这个支持向量从而提高模型的效率。最后,SRS策略和其它的预算维护策略被结合起来进一步加速训练过程。在大规模非线性SVR算法中,我们将用于大规模非线性SVC的两种支持向量删减策略预算SGD和SRS方法分别扩展到非线性SVR模型中来处理大规模数据。SVC和SVR模型上不同算法的对比实验结果表明:本文在两种模型中提出的基于核相似性的SRS策略和预算SGD策略在能够取得具有竞争力的精度的同时,大幅度减少了模型的训练时间,在一定程度上解决了处理大规模非线性支持向量机的核灾难问题。