基于Boosting思想的半监督学习算法研究

被引量 : 0次 | 上传用户:cc_7722
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
Boosting算法是一种利用组合分类器思想提高算法学习性能的一种算法。近年来Boosting算法的研究成为机器学习领域的热点,并产生了Adaboost等Boosting系列算法。Boosting算法性能比较好,是一种比较好的提升算法,近年来Boosting系列算法被广泛的应用于很多领域。半监督学习是当前机器学习领域的一个比较热门的方向,半监督学习能够充分利用训练样本中的无标签样本,能够结合少量的有标签样本和大量的无标签样本来训练分类器,同时由于半监督学习只需要少量的有标签样本,因此半监督学习算法能够节省获取样本标签的成本。半监督学习对于减少标签代价提高学习器的性能具有重大意义。当前机器学习领域Boosting算法和半监督学习算法都是提高分类性能的算法。近年来很多专家学者在这两方面的研究都取得了良好的进展。但是将Boosting算法和半监督学习结合起来的相关研究还比较少。在本课题中,我们将研究将Boosting思想和半监督学习结合起来的算法。在本课题中我们研究了基于WEKA的数据挖掘开发,我们将我们的算法在WEKA平台上实现。我们是在算法MCSSB的基础上对算法进行改进的。MCSSB算法结合了半监督学习和Boosting思想,它是用来解决多分类问题的,并在很多数据集上取得了较好的效果。但是MCSSB算法对于样本训练集有标记样本比较少的情况下实验效果并不理想。在本课题中,我们对MCSSB算法进行改进,在MCSSB的基础上实现了我们的算法IMSB算法。我们在算法的迭代过程中加入了数据预处理阶段,对样本训练集中的无标签样本的标签进行预测,预测完后随机抽取一部分样本加入到初始分类器的训练集中。实验表明,我们的算法能够在样本训练集中有标记样本比较少的情况下取得较好的效果。我们的算法IMSB在一定程度上改进了MCSSB算法的性能。为了获得具有较高置信度的无标签样本的伪标签,我们采用目标函数优化的思想。我们建立一个类似于MCSSB算法中的目标函数,通过优化这个目标函,我们找到具有最高置信度的无标签样本的伪标签。同时在目标函数优化过程中找到最佳的基分类器的权重。通过优化目标函数得到每一个基本分类器的训练集和相应的基分类器的权重,并最终将所生成的基分类器加权起来形成一个组合分类器。在改进MCSSB算法的过程,我们在样本数据的预处理阶段加入一个有监督学习算法对无标签样本的标签进行简单预测,并从这些样本中随机抽取一部分作为下一次迭代过程中的训练集。我们在这里引入的有监督学习算法是直接从WEKA中导入的,比如KNN算法和Na veBaiyes算法等等。然后再将我们实现的IMSB算法部署到WEKA框架中。实验证明我们的算法在有标签样本比较少的情况下同样能够取得比较好的效果。对于我们提出的基于Boosting思想的半监督学习算法IMSB,我们采用基于weka平台的数据挖掘实验进行实验验证,我们将算法用java语言实现并整合到weka平台中。同时我们利用UCI开发数据库中的数据集对我们的算法进行测试。
其他文献
目的:查阅大量古今文献,为骨折分期治则提供理论依据,建立家兔骨折模型,分三期行HE染色及免疫组化检测骨折愈合过程中BMP-9的表达,从生物分子学上探讨土家族药接骨膏促进骨折愈合
阐述了街道与景观照明的涵义,分析了街道景观照明的影响因素,探讨了城市街道景观照明的设计原则,从而为城市景观照明工作提供依据,创造更人性化的街道夜景氛围。
中国当代油画实践已呈现为多样化的创作趋势,但并没有形成与之相关的多样化风格理论形态,严格地说,中国还没有系统化且明细界定的风格体系。中国油画一方面汲取着中国的传统文化
融资租赁,是由承租人选定租赁物和出卖人,而由出租人出资购买后提供给承租人使用,承租人在租期内向出租人支付租金的一种交易形式。作为一种新型融资其创新实质主要与租赁物
随着科技进步和各类标准的不断完善,当前测定样品中金属元素含量时常需要达到ppb级,这一级别的金属含量分析就必须要用到大型仪器了,而大型仪器通常价格高昂。固相分光光度法
21世纪,在经济全球化的大背景下,区域一体化浪潮正席卷世界。欧盟和北美自由贸易区已取得了巨大的成功,这无疑刺激了近年来经济最为活跃的东亚地区。东亚各国在全球化和区域
如果说学生在职业学校中是教育服务的内在对象,那么企业则是学校教育服务中的外延对象,他们的满意度都直接反映了学校在日常工作运行中的质量和水平。目前的中职教育已经越来越
我国能源资源的特点是缺油、少气、富煤,因此,我国发电能源消费以煤炭为主。进入21世纪,随着国家西部大开发战略的不断推进,煤炭资源的大量开采促进了火力发电企业的快速发展
近些年互联网消费信贷业务也相继在各大电子商务平台推出。据调查,不少商家支持消费信贷的付款方式,这给商家的经营状况、消费者的消费行为带来了改变。基于南京、杭州、沈阳
本文在参考前人优秀的研究成果的基础上,结合自己的教学实践,制定教学设计和学习策略,使学生熟练掌握并且灵活运用到日常交际生活中。本文对韩国多乐园出版社出版的汉语教材《汉