论文部分内容阅读
随着信息技术的发展,信息不断地膨胀,各种各样的数据库系统的开发,使得更多的数据以前所未有的速度收集在计算机中。面对众多的数据,人们希望计算机帮助我们分析数据、理解数据,帮助我们基于丰富的数据作出决策,做人力所不能及的事。数据挖掘从大量数据中用非平凡的方法发现有用的知识,就成为了一种自然的需求。正是这种需求引起了人们的广泛的关注,导致了数据挖掘研究的蓬勃发展。
数据挖掘技术包括分类、关联、和聚类等基本概念和技术,分类作为数据挖掘中一种重要的数据分析技术,得到了广泛的研究和应用。支持向量机是一种针对分类和回归问题的新型机器学习方法,它以统计学习理论为基础,作为结构风险最小化准则的具体实现,支持向量机方法具有全局最优、结构简单、泛化能力强等优点,可以有效避免经典学习方法中维数灾难、局部极小等传统分类算法存在的问题。然而对于线性不可分数据的分类问题,支持向量机在训练之前需要选择核函数,而且核函数的参数也要确定,选择的核函数以及核函数的参数都对支持向量机的训练的速度和精度均有影响。常用的核函数有多项式核函数、高斯径向基核函数,其中高斯核函数由于它特殊的性质及良好的分类性能,得到了研究者的广泛应用。然而高斯核函数与其它核函数一样在训练支持向量机前需要确定参数,如核半径(σ),和惩罚参数(C),不同的参数设置对支持向量机的性能有很大的影响,通过本文的数值实验可以看出。核半径和惩罚参数很难通过先验知识来确定,现实中往往是通过变换参数,用不同的参数对训练样本进行多次训练,选择一个最好的参数设置,这种选择参数的方法限制了支持向量机在现实系统中的应用。针对支持向量机的这些问题本文提出了一种基于GEP(Gene Expression Programming)的支持向量机训练算法:GepSVM,用GepSVM训练支持向量机之前无需选择核函数,也无需选择核参数,利用GEP在演化过程中找到一个适合训练数据的核函数。通过大量实验,表明GepSVM算法同时也可以提高SVM分类器的分类精度。