基于乌鸦搜索算法的特征选择算法的研究及改进优化

来源 :吉林大学 | 被引量 : 0次 | 上传用户:l123654123654
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
特征选择是一个从原始数据集中选择出最优特征子集的过程,它是通过降低数据集维度来提高学习算法性能的重要手段,也是机器学习过程中关键的数据预处理步骤。在保证一定分类精度的前提下,使用特征选择方法删除数据集中不相关和冗余的特征,解决了数据集中特征数量庞大、特征之间相互作用复杂的问题,从而降低后续机器学习任务中的难度,使分类器的工作既快又准确。元启发式算法是指一类通用型的启发式算法。在时间和成本有限的条件下,元启发式算法有助于在有限的时间内从巨大的解空间中找到近似最优解。学者们试图将元启发式算法应用到求解复杂的特征选择问题,其中受大自然启发的元启发式算法在各个领域证明了他们的潜力,可以为不同的优化问题提供解决方案。但是,至今没有特定的算法能给出所有优化问题的最佳解决方案。基于自然现象、物种智慧及觅食行为,学者们提出了许多基于不同理论和技术的算法,例如以遗传算法为代表的传统进化算法、蚁群优化、粒子群优化、布谷鸟搜索算法、萤火虫算法等。同样受到自然灵感启发的乌鸦搜索算法(Crow search algorithm,简称Cr SA)是一种新型的元启发式算法,它是由Askarzadeh在2016年提出。该算法的主要思想是:乌鸦作为一种群居鸟类,它具有导航的能力,存储和寻找食物的智慧,以及避免自己的食物被其他同伴偷取的聪明大脑。通过对Cr SA的分析,我们发现可以利用Cr SA解决离散空间搜索问题,特别是求解特征选择问题。由此,我们提出基于乌鸦搜索算法的特征选择算法(Feature selection using crow search algorithm,简称FSCr SA)。为了验证FSCr SA的有效性,我们将FSCr SA用在三种分类器上指导学习过程,分别为SVM,J48和KNN分类器,并且在多个数据集上进行实验。通过与传统的机器学习特征选择算法和基于进化计算的特征选择算法比较,FSCr SA能够在数据集中选择辨识度较强的特征,不仅大幅度降低了特征子集的规模,而且提高了分类准确率。通过对FSCr SA的分析,我们发现算法在初始化以及搜索阶段具有局限性,导致维度缩减能力不高,由此我们对FSCr SA进行改进,提出了Improved Feature Selection UsingCrow Search Algorithm(简称:IFSCr SA)。我们使用反向学习搜索策略设置乌鸦在离散空间的初始位置,利用反向学习的优点,使算法的初始值不是完全随机,我们选择较优的初始值作为初始位置从而提高寻优速度;采用Lévy飞行方法平衡全局搜索与局部搜索,通过Lévy飞行步长的调节,使算法在前期不过早陷入局部最优,在后期又能快速收敛于全局最优;我们同时提出使用贪婪策略的更新机制,从而进一步加快算法的收敛速度。通过实验结果可以证明,相比于FSCr SA,IFSCr SA在不降低分类准确率的条件下,维度缩减能力更强。
其他文献
随着教育改革的深化和素质教育的推进,教育界共同关注的话题就是聚焦学生核心素养的发展。目前,我国越来越注重培养学生适应社会终身发展的能力,并对核心素养在学校的教育进行初步探索和建设。核心素养是适应个人终身发展需要所必须具备的品格,也是适应社会发展所具备的关键能力。然而责任心是一种道德品质,它对于一个人能够立足于社会、获得家庭上的幸福和事业上的成功起着非常重要的作用。一般来说,7-12岁是一个人身心发
根据十几年来重庆市道路交通噪声监测资料,对重庆市道路交通噪声状况、变化趋势进行了分析研究,分析了道路交通噪声污染的原因,提出了改善声环境质量的对策建议.
利用In VEST模型,以草海国家级自然保护区为例,对2000—2010年保护区生境质量变化进行分析。结果表明:除水域和未利用地外,其他地类变化突出,旱地、草地、城镇建设用地和农村
大学是走向社会的舞台,也是学会理财的好时机。大学生具有获取投资和财务管理知识的多种渠道,但是大学生更倾向于网络,具有较强的投资和财务管理意愿。大多数大学生资金来源
我们怀着激奋的心情,庆祝中国新闻工作者的光荣节日——记者节。 1937年11月8日,以范长江为首的一批左翼新闻工作者,在上海成立中国青年记者协会,这是中国记协的前身。国务院
首先分析了半干旱黄土高原区域生态系统的特点,指出:这里地带性植被极度退化,土壤质量严重恶化,治理难度大,可持续发展受到严重威胁。然后,进行生态系统退化关键驱动力的分析
我国有机食品的发展起步较晚,但近年增长较快。云南省具有多方面优势,只要政府重视,加强宣传,在政策上给予一定优惠,加强有机食品管理,就一定能打开国际市场,进而取得较大发展。
随着社会经济的快速发展,科学技术水平的不断进步,需要解决配网检修施工过程中坑洞开挖和电缆井检修作业无针对性防人员坠落的问题,在降低配网检修人员安全风险的同时提高检
对昆明呈贡李居山原磷矿生态恢复区进行了昆虫多样性调查,结果发现,不同生境和植被下的昆虫相不同。无植被的裸地样方昆虫类群最少,数量也最少,自然生长恢复的杂草植被样方昆虫多
以怀山药的茎尖、茎段为外植体,研究不同激素配比对山药茎尖分化及茎段快繁的影响,筛选适合于怀山药生长的培养基。结果表明:MS+BA 1mg/L+KT 2mg/L+NAA 0.2mg/L是怀山药茎尖