论文部分内容阅读
支持向量机是在统计学习理论的基础上,利用结构风险最小化原则代替经验风险最小化原则,发展而来的一种机器学习新方法。在处理非线性、高维以及小样本的机器学习问题中有着特有的优势,使得其在很多方面得到了很好的应用。然而,SVM是个“黑箱”模型,即模型代表的意义难以理解,不能以一种简单的、透明的方式解释它对一个新样本的预测过程。由于缺乏透明性,在数据挖掘和决策支持领域以及安全性要求比较高的关键应用方面,其应用受到了一定的限制。 论文的研究内容主要包括以下两方面: (1)针对支持向量机(SVM)的“黑箱性”以及目前SVM的“黑箱性”研究主要采用规则提取方法解决分类问题,而回归问题鲜有提及现状。提出基于回归树算法的SVM回归规则提取方法,算法充分利用支持向量的特殊性以及回归树的优势,建立支持向量的决策树模型,成功提取出决策能力高、包含变量少、计算量小且容易读取的规则。 (2)基于回归树算法可有效提取规则,但是传统回归树算法叶节点通常采用算术平均数作为规则的结果,缺陷是到达叶节点样本较多且目标值浮动较大会导致训练和预测的准确度严重下降,而且精度严重依赖于终止条件的设定值。由此提出的改进算法是在回归树的叶节点处采用最小二乘法拟合出对应的函数表达式,代替原算法中的算术平均数。 本文主要研究了支持向量回归机的规则提取方法,明确了支持向量机模型输入变量与输出变量之间的关系,使其具有更直观的可理解性,模型更加透明化。如将该方法应用到煤制甲醇实际生产的质量监控中,用于得到甲醇产率与工艺参数的对应关系,使操作工人深入了解生产中存在的规律,从而解决了工人靠经验设定参数的现象,对改善生产操作、提高生产效率以及提升产品质量等方面具有重要的指导意义。