基于多尺度核加权融合的支持向量机核函数优化方法的研究

来源 :杭州电子科技大学 | 被引量 : 0次 | 上传用户:z174433854
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
支持向量机是以统计学习理论作为其基础并且以结构风险最小化作为其遵循的准则,它通过结构风险最小化来同时控制学习机器的复杂度以及学习机器的学习能力。支持向量机在解决高维非线性的小样本的机器学习的问题具有非常大的优势,它没有传统机器学习方法存在的很多的问题,比如局部极值、过拟合等。支持向量机从提出到现在得到了广泛的应用与发展,但是,它依然存在一些问题,对于如何优化选择核函数以及优化选择相关的参数、如何利用多尺度核学习方法等,还没有完善统一的模式去遵循。因此,从SVM核函数的优化选择、SVM的参数优化选择、多尺度核学习等方面进行研究是非常必要而且有意义的。所以,本文从以上三个方面进行详细深入的研究,在核函数度量方法的基础上做出了一些改进,在不增加原有算法复杂度的情况下,选择出性能最好的核函数,来提高SVM算法的泛化性能和推广能力。本文做了以下四个方面的工作:(1)研究了机器学习理论、统计学习理论、支持向量机理论等,详细叙述了由最优超平面的最小间分隔得到SVM的算法的数学模型。再由算法的数学模型推导出线性SVM的具体算法,以及通过核函数将线性SVM推广到非线性SVM。(2)重点研究了核函优化选择的方法,特别是独立于SVM算法的核度量方法,分析了常用的核函数度量方法如核度量准则、核极化准则、推广的多类核极化准则,这些方法独立于具体的算法不需要训练支持向量机,算法简单复杂度低,并且能很好的选择出核函数,是一种很有效的核函数选择方法。(3)介绍多核学习的方法,可以发现多核学习方法比单核学习方法性能好,多尺度核学习方法是多核学习方法的一种,灵活性好。在借鉴了核度量方法和多尺度核学习方法的优点之后,提出了一种多尺度核加权融合优化的学习方法,给出了理论的分析和证明。(4)将本文提出的方法在六种经典的图像数据集上进行实验。首先,验证了加权融合的多尺度核优化学习的方法可以很好的选择出泛化性能好的加权融合的多尺度核。然后,将选择出来的加权融合的多尺度核结合支持向量机算法和选择高斯核函数的标准支持向量机、直推式支持向量机、拉普拉斯支持向量机、最近邻算法做比较,发现本文提出的方法识别率和稳定性都比较高,具有较大的优越性。
其他文献
随着云计算和互联网技术的蓬勃发展,软件以服务形式供用户使用受到人们的青睐。云计算环境中集成了海量的各种各样的服务,用户可以根据实际需求购买所需的服务。海量服务中又
叶脉是植物分类的重要特征之一,植物叶片图像叶脉分割是叶脉识别的前提,而叶脉分割大多数都是对灰度图像进行处理,由于叶片图像采集过程易受光照影响而出现阴影、光照过强的
无线传感器网络将人类和物理世界互联,极大地方便了人们的生产生活。数据收集作为无线传感器网络中的基本问题,直接影响到网络性能和服务质量。由于传感器网络中采集的数据大
配电自动化是提高供电可靠性和供电质量的主要环节,在当前供配电领域具有重要的研究意义。馈线自动化是配电自动化的重要内容之一,馈线终端单元FTU是馈线自动化的基本控制单
随着人们对果蔬营养保鲜要求的提高,对冷库及制冷设备控制水平的要求也不断提高。自动控制技术经历了几十年的发展与完善,在工业控制领域中得到了广泛的应用。将自动控制技术
软件工程的一个重要领域是程序理解,随着软件规模越来越大,对源程序的理解成了一个较难的问题,在这个问题的需求下,程序切片技术应运而生。程序切片技术是一种程序分解技术,
骨发育成熟度(骨龄)指标在预防医学、临床医学、法医学和体育科学等领域有着广泛的应用。传统的骨龄评分是由专家根据标准模板对待测X光片进行评分,分值的主观性较强,不利于
图像边缘包含了图像的重要信息,是图像的最基本特征。边缘检测是图像处理中的一个经典问题,边缘检测直接影响到智能视觉系统其他阶段工作,特别是模式识别的结果。因为实际图
聚类是数据挖掘的基本任务之一,其目的为把相似性大的对象聚集为一簇,把相似性小的对象分离开来,从而发现潜在的、有意义的知识。空间聚类是空间数据挖掘的重要内容,是指在一
随着Internet的高速发展,目前企业的商业活动越来越依赖于Internet,但是Internet作为一个公共的传输介质,无法满足商业信息的机密性要求。于是,人们引入了VPN(Virtual Privat