支持向量机集成学习算法研究

被引量 : 0次 | 上传用户:gichurn
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
集成学习通过训练多个个体学习器并将其结果进行合成,显著地提高了学习系统的泛化能力,作为机器学习的第四大研究方向已经越来越引起人们的重视,为提高机器学习的泛化性能提供了另一种新的解决途径。支持向量机作为一种“稳定的”学习算法对集成学习技术提出了新的挑战,研究和探索新型的支持向量机集成学习算法成为目前研究的热点问题。支持向量机集成学习的研究开始较晚,研究较少。如何设计出更有效的支持向量机集成学习实现算法,是目前支持向量机集成学习的关键问题。本文分别从集成学习中的个体生成和结论合成两方面入手展开研究,充分挖掘支持向量机集成的优势和潜力。针对支持向量机对核函数类型及参数扰动的敏感性,而现有参数扰动方法都是预先选定一种核函数,没有考虑核函数类型对支持向量机性能的影响,引入更加灵活的混合核函数,对混合核函数各参数进行扰动,其实质是实现了对支持向量机模型的扰动,提出一种模型一重扰动的支持向量机集成算法。仿真实验结果表明,该算法通过引入更多参数参与扰动,提高了支持向量机集成的差异度和泛化性能。在模型扰动基础上,结合特征扰动机制,研究基于模型与特征二重扰动的支持向量机集成算法。已有特征扰动方法都是在原始特征空间中进行,没有考虑特征相关性对个体支持向量机性能及集成差异度的影响。引入ICA特征变换方法,利用ICA方法对特征空间进行变换,去除特征间的相关性;在变换后的独立成分空间中,给出基于模型与特征二重扰动机制的支持向量机集成算法。仿真实验结果表明,该方法进一步提高了集成的差异度和泛化性能。选择性集成方法从集成系统中选择出部分个体参与集成,达到了提高集成泛化性能的目的。经典的选择性集成算法还存在计算复杂度高、学习效率差、性能低等缺陷,提出利用人工鱼群优化算法优化结论合成的权值,引入人工鱼群算法求解的全局性、初值不敏感、鲁棒性强、收敛速度快等优点,实现一种新的选择性支持向量机集成算法,仿真实验结果表明,其在泛化性能、学习效率、集成规模等方面都有所改善。基于模糊积分法的支持向量机集成算法可以充分利用支持向量机的度量层输出信息,进一步提高集成的泛化性能。已有的模糊积分集成法利用训练样本的先验静态信息来确定模糊密度值,其对所有的测试样本都是固定不变的,不能充分体现不同个体支持向量机相对于不同待测样本分类的不同置信度。提出一种基于自适应模糊积分法的支持向量机集成算法,根据各个体支持向量机分类器的度量层输出信息确定个体支持向量机分类器对待测样本分类的置信度,并据此实现自适应模糊密度赋值。仿真实验结果表明,该方法进一步了提高支持向量机集成的泛化性能。
其他文献
火在人类发展的历史舞台上扮演着一个重要的角色,它既给人们带来了光明、温暖也给人们带来了不少苦难悲伤。火灾是威胁公众安全和社会发展的主要危害之一,火灾的预防是一项重
企业行政效能监察一直以来就是我国企业行政效能监察管理活动的出发点和落脚点,是行政管理研究中的重点和核心。企业行政效能监察就是对履行职责的能力、效率、效果、效益问
电视新闻栏目是大多数人获取信息的主要途径之一,这就要求新闻节目主持人具有较强的专业技能和良好的知识储备,还要在新的发展趋势下,改变传统的播音模式,在播音的过程中用真
课题选取了“汉字装饰的象论研究”,这一课题侧重的是用象思维去研究汉字装饰,以探究汉字文化内涵和构形的规律。这里的汉字,并不是从古到今所有的汉字,而是指那些具有象化特
火的发明和使用,对人类的发展具有十分重大的意义。各民族用火的事象都可称为火文化,因为火渗透到人们生产和生活中的方方面面,并鲜明地表现出各个民族特有的价值观念等内在
目的分析青少年儿童功能性腹痛(recurrent abdominal pain,RAP)的患病率,分布特征(包括年龄段、性别分布等),临床特点及其致病的相关危险因素。方法采用多级整群抽样的方法,
目的 非体外循环下冠状动脉搭桥术后护理效果.方法 选取我院2015年2月~2016年2月接收并行非体外循环下冠状动脉搭桥术(OPCAB)治疗的患者30例作为研究对象,研究其术后护理效果.
近年来,我国经济高速发展,车辆数目飞速增加,随之而来的是严重的交通拥堵,车辆分散不易管理,汽车盗抢现象严重。如何实现各种车辆的有效指挥、协调、管理和保证其安全已经成
随着核电技术的高速发展,其安全性和经济性一直是关注焦点。随着故障诊断技术的应用与发展,以检测、识别、预测和干预为核心的状态监测与故障诊断专家系统,在核工业中得到了
随着医学模式的转变,人们对健康需求的不断提高,人口老龄化的快速发展,护理工作范围的不断延伸,使得原本短缺的护理人力问题更加突出,在此基础上的护理人员流失更使得护理人