基于MIC的高维数据特征选择及应用研究

来源 :山西大学 | 被引量 : 2次 | 上传用户:W6216286
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的到来,高维数据的“维度灾难”问题也随之受到更多学者的广泛关注。高维数据通常指包含成千上百个特征且具有大量无关信息和冗余特征的数据集,如在自然语言处理领域、生物工程领域、医疗领域、金融领域和人脸识别领域等都存在着大量的高维数据,而其中包含的冗余特征会给后续的学习和研究带来极大的不便,更会降低最后分析结果的可信度,甚至会得到错误的结果。因此,高维数据的特征选择方法成为了国内外学者的研究重点,并且在多个领域都得到了广泛应用。本文提出利用最大信息系数(Maximal Information coefficient,简称MIC)的方法进行高维数据的特征选择。MIC是由哈佛大学的David N.Reshef等人在2011年提出的度量两个变量之间相互依赖程度的一个指标,且有基于观测数据的计算方法。传统的特征选择方法(如AIC、BIC)需要先确定模型,不同的模型选择出的特征集差异较大,且模型的可解释性较差。本文从理论角度证明了MIC的重要性质。在实验部分先基于MIC度量进行特征选择,MIC特征选择方法不依赖于所选模型,不论后面建模中使用什么模型以及如何使用这些特征,理论上均不会丢失真正有相依关系的特征,此特性充分体现了所选特征子集的稳定性。然后建立随机森林模型来检验所选特征的合适与否,首先使用组块3x2交叉验证来进行模型训练集和测试集的划分而非传统的k折交叉验证,接着在得到的6个训练集上训练随机森林模型并分别在对应的测试集上检验分类性能,采取袋外误差OOB(out-of-bag)作为随机森林模型调参的评价准则,并且将决策树的个数k和树结点的特征选择个数p双参数组合进行调参而非传统的单参数固定调参。最后,将6组实验结果取均值后与未进行特征选取的数据在模型性能上进行对比,结果表明模型分类的准确率由67%提高到82.5%,1F值由65.26%提高到80.73%,充分说明利用MIC进行高维数据特征选择的有效性。
其他文献
由于Lipschitz函数类具有许多很好的逼近性质,对Lipschitz函数类的研究一直是逼近论和Fourier分析中的热点问题之一.特别地,研究一个函数是否属于Lipschitz函数类具有重要的
目的:观察温和灸配合推拿疗法对中风后肩手综合征的影响,了解温和灸配合推拿疗法对治疗中风后肩手综合征的临床效果。方法:采用随机对照研究,收集符合纳入标准的患者共60例,并随机分为实验组和对照组,每组30例。实验组和对照组分别按照预先制定的方案进行治疗。于治疗前及治疗后,分别通过视觉疼痛量表(VAS)、简化Fugl-Meyer上肢运动功能评分法(FMA)、改良Barthel指数(MBI)以及总有效率的
新课标下的初中化学教材充分体现了课程标准的基本理念,具有鲜明的思想性、科学性、启发性、可读性、趣味性和实用性,符合大多数学校及学生的实际。那如何开展好初中化学教学工
非线性材料对于非线性光学的研究具有非常重要的作用,对于非线性材料的研究有助于我们设计性能更好的非线性光学器件。相对于无机材料而言,有机材料由于较为新颖并且性能突出
本文以深部开采开挖加卸载为背景,对深部巷道围岩体在卸荷条件下的力学特性和失稳先兆进行了研究。以大理岩作为研究对象,设置了单轴压缩试验、单轴循环加卸载试验、常规三轴压缩试验以及恒轴向位移卸围压试验,研究了四种应力路径下大理岩的力学参数变化特征、声发射特征、声发射b值特征、声发射RA值、加卸载响应比、声发射信号聚类特征等等,得到的主要研究成果如下:(1)进行大理岩单轴循环加卸载试验:岩石在施加循环荷载
青海省地处青藏高原,平均海拔均在3000米以上,自然条件恶劣,地方经济滞后,教育基础薄弱。“两基”攻坚面临着许多特殊的困难和问题。多年来,在青海省委、省政府的高度重视和正确领
低碳经济,是人类应对全球温室变化的战略性选择,也是很多国家发展模式的共同选择。在提倡低碳环保的今天,节能减排已成共识。因此,研究建筑低碳化以及运行低碳化具有非常高的
转描是动画的一种表现手段和技术,主要制作方法是先进行真人实拍,剪辑成影片后,将片段投影到特制的绘画板上进行手绘临摹,最终将临摹的图片合成为动画片。通过转描技术而创作的动画片被称为转描动画。转描动画曾经很长一段时间内不被动画行业认可,认为它是动画师想要“偷懒”的产物,但是转描动画并非完全照抄照搬,也需要发挥个人的才能和想象力,使得片子在真实自然的基础上拥有自己的风格。目前,众多因素影响着国产动画的发
公安院校警体教学是警察教育的重要组成部分,担负着培养文能办案、武能擒敌的合格人民警察的重任。警体教师能否完成这光荣任务,关键在于警体教师的思想、知识和能力水平。本文
“低碳”理念贯穿于经济、文化、生活的方方面面,低碳理念深入人心归咎于人类因气候变化、能源短缺而对未来产生的担忧。低碳理念的核心在于加强研发和推广节能技术、环保技术