多元不均衡数据分类问题研究

来源 :河南大学 | 被引量 : 0次 | 上传用户:liongliong573
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
不均衡数据的分类是数据挖掘和机器学习中最具挑战的问题之一。对于均衡数据,分类算法追求的目标是尽最大可能地提高分类的整体正确率。传统的分类方法对均衡数据的分类一般都能取得较好的准确度。然而,在某些特殊应用中,仅提高分类的总体正确率并不能满足应用的需要,尤其是不均衡的数据,对于少数类样本的识别率要比对多数类样本的识别率更加重要,不均衡数据分类的应用场景包括医疗诊断、信用卡欺诈检测和计算机病毒检测等。目前,针对二元不均衡数据分类算法的研究已经日趋成熟,而针对多元不均衡数据分类方法的研究,是目前研究的热点和难点。鉴于不均衡数据分类的理论意义和实际应用价值,本文对不均衡数据分类的方法进行了大规模的实验对比分析,并设计了新的多元不均衡数据分类方法。本研究分为三个部分,一是属性选择算法和数据选择算法对二元不均衡数据分类的影响,二是多类不均衡数据分类算法性能的实验对比分析,三是新的多元不均衡数据分类算法DECOC。在属性选择算法和数据选择算法对二元不均衡数据的影响的大规模实验中,在42个数据集上对比了10种属性选择算法和6种数据选择算法分别对3种分类算法的影响,实验采用了<属性选择算法-数据选择算法-分类算法>和<数据选择算法-属性选择算法-分类算法>两种不同的方式,因此对于每个数据,结合属性选择算法、数据选择算法和分类算法的方式一共有10×6×3×2=360种。通过计算分类结果在ACC(整体正确率)、ACC+(少数类样本的正确率)、ACC-(多数类样本的正确率)、G-mean(Geometric mean)和F-measure(F-Score)五种评估标准上的性能,得出了一些总结性的结论,这些结论包括但不限于在各个评估标准下,针对每种分类算法,属性选择算法与数据选择算法最好的结合方式。属性选择算法对分类的影响,或者是数据选择算法对分类的影响已有大量相关的研究,然而属性选择算法和数据选择算法结合起来对分类的影响还未有相关的研究。因此,此项工作的创新点在于将属性选择算法和数据选择算法结合起来,研究其对不均衡数据分类的影响。在多类不均衡数据分类算法性能的实验对比分析中,本文设计实验,分析了16种多元不均衡数据分类方法,揭示各种方法的优缺点,为研究人员和应用实践提供参考。实验结果表明,结合多种分类算法的DOVO(Diversified One-against-One)算法的准确率(基于AUC,G-mean等评价指标)最佳。ImECOC+sparse、imECOC+dense、HDDT+ECOC、AdaBoost.M1、SAMME和PIBoost的准确率次之。因此,若不考虑时间因素,DOVO方法是首选的多类不均衡分类算法。而在算法运行时间方面,上述7个算法中,imECOC+sparse、imECOC+dense、AdaBoost.M1和SAMME的运行速度较快。由于目前国内外对多元不均衡数据分类的研究相对比较缺乏,因此本文在对比分析了现有的16种算法的基础上,提出了一个新的多元不均衡数据分类算法DECOC。由实验结果可知:结合多种分类方法的DOVO算法的正确率最佳;在分解方法中使用sparse生成纠错输出编码的方法优于OVO;由ECOC改进而来的imECOC方法更适用于不均衡数据。综合这三条结论,新方法DECOC使用了多分类器系统,同时在分解方法中使用sparse生成纠错输出编码,并且采用了imECOC方法中对每个子分类器分配不同的权重。新算法在ACC(整体正确率)、G-mean(Geometric mean)、F-measure(F-Score)和AUC四个方面都优于现有的16种方法。本文对不均衡数据分类算法的性能进行的研究成果,对数据挖掘的研究人员和工程师有着较高的参考价值,方便相关人员选择适用的方法,指导应用实践。
其他文献
<正> 权责发生制原则和谨慎性原则以其对企业经营活动和企业最终经营成果的重大影响力,在企业会计准则中始终处于核心地位。特定环境使两个同时成立又相互矛盾的原则在商业银
从语言、叙述、结构等文体要素去蒸馏汪曾祺小说世界丰厚凝重的文化意味,可以透析出其闪灼的结晶体——传统文化。因为这些要素本身就是归向传统的衣钵。“字思维”产生作家语
<正>推进双拥工作社会化,积极开展社区拥军优属工作是双拥工作的重点。笔者认为,社区开展拥军优属工作必须把握以下三点:(一)把握机会,顺势而进。新的历史时期,部队和国防建
<正>当前,我们在婚姻登记工作中遇到了两个比较突出的问题,不容忽视。一是户口本上的"婚姻状况"栏目不能反映真实情况。2003年民政部制定的《申请结婚登记声明》中"婚姻状况"
<正>农业银行集中采购制度自2001年起开始酝酿,2001年财政部发出财金[2001]209号文件《关于加强国有金融企业集中采购管理的若干规定》,对国有银行的集中采购提出了明确要求
<正>自从开放式基金蓬勃发展以来,银行将创新指向了基金份额持有人的融资需求--基金份额受益权质押贷款业务。这项业务的开展,无疑会提升所销基金的吸引力,成为扩大销售份额
<正>个人住房贷款是指银行向借款人发放 的用于购买住宅用房的贷款。近几年 来,由于我国取消了福利分房,实行货币化 分房,以及城镇居民收入水平的提高和消 费观念的变化,个人
<正>实行农村低保制度与扶贫开发政策有效衔接,是我国扶贫工作的一项重要制度安排。2010年以来,民政和扶贫两部门认真落实国务院办公厅转发的扶贫办、民政部等5部门《关于做
近年来,我国经济高速发展,随着乡村不断的城市化,导致城市中的环境问题越来越严重。城市中的静态水源逐渐成为工业废水和生活污水的聚集地,这些被污染后的静态水严重影响了城