支持向量回归(SVR)是一种基于核(Kernel)策略的机器学习算法，主要研究如何从有限观测样本出发找出未知函数(规律)。它最早是由V．N．Vapnik及其合作者提出，并以统计学习理论为基础，其主要特点是利用结构风险最小化(SRM)准则来解决回归中常见的“过拟合”问题。统计学习理论的基本思想是对解空间的容量(Capacity)进行控制，根据有限的样本所提供的信息在模型复杂度和样本拟合度之间寻求最佳平衡，以获得健壮(Robust)并有较好泛化能力的解。支持向量回归的另一个显著特点是它的解具有稀疏性，这种特性一方面可以减少例外点对解健壮性的影响，另一方面使得支持向量回归适宜用于处理大规模数据。目前，支持向量回归已经成功地应用于多个领域，如时间序列数据预测、生物信息学和图像处理等。 近年来，支持向量回归无论在理论研究还是实际应用中都取得了较大发展。其中一个非常重要的研究方向是核函数的选择与构造。在实际应用中，支持向量回归的性能很大程度上依赖于核函数的选择。本文提出了两类基于小框架理论的核函数的构造方法，其目的是将小框架冗余表示的优越性与支持向量回归较强的学习能力结合起来。此外，本文还提出了一种基于支持向量回归和组合模型的光谱反射率重建方法。本文的主要研究成果包括以下几个方面： (1)提出了一种基于小框架理论的支持向量回归核函数的构造方法。小框架是一种利用多分辨分析(MRA)构造的紧框架，它具有小波和框架的双重优点。此外，小框架的构造方法以及逼近性质已经得到了深入的研究。小框架核继承了小框架多尺度表示以及冗余表示的双重优点，实验表明，使用此类核函数可以减弱样本噪音对解的影响。 (2)提出了一种加权多尺度小框架核函数的构造方法。对于回归问题来说，逼近一个同时具有剧烈变动部分和平缓变动部分的不规则函数是一个难题。支持向量回归利用常用的高斯核函数不能有效的处理这类问题，因为高斯核不能做到同时逼近剧烈变动部分和平缓变动部分。使用加权多尺度小框架核可以通过调整权值控制逼近函数中不同的频率成份，实验表明，当处理从有较大噪音的样本中估计不规则函数时，加权多尺度小框架核明显优于目前常用的一些核函数。 (3)提出了一种基于支持向量回归和组合模型的光谱反射率重建方法。光谱反射率重建是光学研究的一个重要方向，其目的是从各种成像设备所获取的与设备相关的RGB三色值重建出物体本身固有的与设备和光照都无关的光谱反射率。回归方法已经在这一领域取得了广泛应用，如基于多项式模型的正则化最小二乘方法、基于核的正则化最小二乘方法等。本文提出了一种新的光谱反射率重建方法，这种方法首先采用了一种新的组合模型来最大限度的利用样本信息，然后使用支持向量回归来重建最终的光谱反射率函数。实验表明，新方法可以提高光谱反射率重建的精度和稳定性。