基于最大权重最小冗余准则的特征选择方法研究

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:loveaudio
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近几年以来,随着现代科学技术的飞速发展,数据量呈现一种爆炸式增长。而伴随数据量增长的同时,数据中包含的不相关和冗余信息也增多,给已有的机器学习算法带来了严峻的挑战。因此,迫切需要适应海量数据的准确性和运算效率等综合性能较好的特征选择方法。为此,本文对高维数据的特征选择展开了进一步的研究。首先,针对现有特征选择方法中基于不同的类间散度和类内散度的特征权重度量方法的缺陷,我们提出一种新的度量特征权重的函数,这种度量具有一定的泛化特征。并进一步讨论该形式与其它基于类间散度和类内散度准则的特征权重度量的关系。其次,针对现有特征选择方法中相关性和冗余度评价方法缺乏多样化以及最佳特征个数难以确定的问题,本文提出基于最大平均权重最小平均冗余准则的特征选择方法(MAWMAR方法)。一方面,在特征权重计算过程中采用一般化的特征权重评价函数,使得特征选择过程中不仅便于理解和分析,同时适用于处理半监督和有监督的问题。另一方面,通过建立最大化特征相关性和最小化特征间冗余信息的分式规划模型,该方法不仅有效地权衡了特征相关性和冗余性这两个相互冲突的目标,同时实现了最优特征个数的选择。实验结果表明MAWNAR比其它特征选择方法得到了更小更优的特征子集。再次,针对基于最大平均权重最小平均冗余准则的特征选择方法容易受特征个数的影响,本文提出基于最大总权重最小冗余准则的特征选择方法(MaToWMiR方法),该方法综合考虑了特征相关性和特征间冗余性进行无关冗余特征的剔除。MaToWM,MiR不仅保持了使用一般化的特征权重度量的优点,同时降低了特征个数对特征选择的影响。实验结果表明MaToWMiR有效地去除了无关冗余特征,降维的同时提高了分类精度。最后,为了考察MAWMAR和MaToWMiR的应用范围,对两种方法下的模型做了对比分析。首先,利用分支定界法求解MAWMAR和MaToWmIR方法下的模型,通过比较分类准确率和选择出的特征个数,说明了两种方法在不同的数据集上具有各自的优势,同时分析了影响上述结果的主要原因。其次,针对精确算法计算效率低的问题,利用求解精度较高的遗传算法求解模型。数值实验表明,不论是利用分支定界法还是遗传算法求解,MAWMAR和MaToWMiR在具有相似特点(例如相似的特征权重分布和冗余度分布)的数据集上占有相同的优势。
其他文献
随着社会经济与科技高速发展,系统科学研究面临越来越复杂的情况,评价与管理决策研究中的问题越来越具有不确定性和动态性,传统的研究方法已经不能完全适应这些变化。灰色系统理
电视新闻节目在一定的程度上影响着电视节目的收视率。电视新闻水平的高低,除节目本身的思想性艺术性和技术质量外,新闻节目的编排也十分重要。一套编排成功的电视新闻节目,
在全球信息化日益快速发展的今天,产品研发的决策环境和条件越来越复杂,可供决策的时间越来越短、要处理的信息和数据量越来越大,参与决策的人员越来越多、各个方面各种关系越来越复杂。复杂产品的设计、制造、装配等的周期相对较长,研制过程除了要求不同领域和不同阶段的设计人员参与以外,更需要其他相关的决策人员、制造人员、测试人员、用户等的广泛参与,只有所有成员进行紧密协作,才能保证设计出来的复杂产品满足制造、使
本文以易逝品供应链中的第三方物流服务提供商(third party logistics,下文均简称TPL)和销售商为研究对象,致力于协调两者之间的利益冲突。   随着全球商业化和竞争的日益激
学位
随着城市的加速发展,交通拥堵变成了一个十分严峻的问题,严重阻碍了城市的进一步发展。为了阻止这一问题的加剧,以最大化交通通行能力为目的的智能交通系统逐渐发展起来。智
随着市场经济的深入发展,市场竞争越演越烈,以客户需求为中心,实施CRM,加强与客户的联系,有效挖掘和管理客户资源,提高客户满意度、忠诚度及客户让渡价值,才能获得竞争优势,
创新扩散,是指新产品、新技术、新思想、新方法以及其他的社会现象在社会经济系统中的传播过程,一直以来都是管理学、营销学等社会科学研究的重要命题之一。创新扩散的本质是
廉租房是社会住房供给体系一个重要组成部分,是解决低收入群体住房的主要措施。如何界定廉租房保障对象是实施廉租房制度的关键所在,本文针对廉租房保障对象界定问题进行研究。
针对星级饭店员工流失率一直较高的现状,本文首先对星级饭店员工流失的现实原因进行了分析,接着在文献研究比较的基础上分析了职业生涯管理影响饭店员工流失的作用机理,从而
开发区作为城镇发展和土地利用的重点区域,已经成为产业升级、区域发展的推动器和科技创新基地,预计将会成为全国经济、区域经济、城市经济的重要支柱。但在开发区土地利用中,重