在过去的20年中,核方法已成功用于解决许多机器学习和模式识别问题。众所周知,核方法的性能高度依赖于核参数的选择。传统的模型选择在交叉验证的框架下基于格子、随机或者手动搜索实现。然而这些方法都是在离散的参数空间中选择有限个候选核参数,然后多次训练模型,这需要很高的计算成本。尽管研究者们已经提出了非线性解路径算法用于在连续的参数空间中选取核参数,但这些方法仍不能保证搜索到整个参数空间内最优的核参数值。本研究将针对分类、回归和有序回归问题的核方法模型选择算法做进一步的探讨,主要算法包括非线性解路径算法,通用的非线性解路径算法和核错分路径算法。本研究针对核方法的模型选择问题进行了一下研究:（1）针对ν-支持向量机,本文提出了相应的非线性解路径算法,该算法避免了多次重复训练ν-支持向量机,并且可以在连续空间中对核参数进行调优。更重要的是,本文对提出的算法进行了收敛性分析。最后,在多个分类数据集上的实验验证了提出的算法提升了ν-支持向量机的分类精度。（2）针对多种机器学习问题（如标准支持向量机、LASSO、有序回归支持向量机等）,本文首先提出了具有一般性的参数化二次规划问题,然后设计了通用的非线性解路径算法,该算法解决了多种学习算法在连续参数空间中进行核参数调优的问题。最后,本文给出了该通用算法实例化为标准支持向量机的示例。（3）尽管非线性解路径算法可以实现在连续的参数空间中对核参数进行调优,但是仍不能保证选取交叉验证误差最小的模型。为了解决这个问题,本研究针对分类与回归问题,提出了核错分路径算法。该算法通过最小化交叉验证误差,以保证最终选择到全局最优的模型。最后,本文对提出的算法进行了收敛性分析,在多种数据集上的实验结果不仅验证了非线性解路径算法的有效性,而且还显示了结合核错分路径算法选择的模型优于其他算法（如格子搜索、随机搜索）选择的模型。