基于极限学习机的表征学习方法研究

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:weaselhyp
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在这个信息高速发展的时代,数据繁冗复杂,如何充分地分析挖掘数据,从中提取有效的潜在信息和关键特征,对数据进行表征学习成为机器学习领域中的研究重点之一。现有的表征学习算法大体可分为基于矩阵分解和基于神经网络两种。近年来,随着数据的多样性、复杂性以及数据量的增大,基于矩阵分解的方法在表征学习问题上对效果的提升已经有了明显的制约,研究者们多数转向基于神经网络的深度学习进一步进行研究。目前,大多数的深度学习算法,如深度信念网络(DBN)、卷积神经网络(CNN)、递归神经网络(RNN),采用迭代更新参数的方法进行训练,存在参数较多、模型复杂、训练效率低等问题。极限学习机(ELM)具有训练参数少、学习速度快、泛化能力强等特点,鉴于其高效性,近几年研究人员致力于研究如何将ELM拓展到深度学习框架中,以解决深度学习的训练耗时、计算复杂的问题。针对现有基于ELM的深度学习算法存在的未充分考虑全局结构信息的不足,本文首先结合图嵌入框架提出一种新的极限学习机自编码器(GDELM-AE),在ELM空间中挖掘数据的局部近邻结构信息和全局结构信息。在GDELM-AE中,采用局部Fisher判别分析构建了图嵌入框架下的本征图和惩罚图。进而,通过堆叠多个GDELM-AE提出了深度框架下的堆叠图嵌入去噪极限学习机(SGD-ELM)算法。在多个标准数据集上的实验结果显示,与已有算法比较,所提算法获得了更高的精度并具有较快的训练速度。这验证了GDELM-AE能够对原始数据进行更全面的特征表示,并且对噪音数据具有鲁棒性,SGD-ELM易于获取数据的高层次抽象特征。现有基于ELM的深度学习算法大多忽略了原始数据的空间关系,传统深度神经网络存在参数较多、训练困难等问题,针对此问题,本文提出了基于AdaBoost集成极限学习机的多粒度级联(gcAWELM)算法。利用集成的极限学习机作为基础模块,采用级联结构进行特征学习,不同的集成极限学习机有利于提取多样性的特征,并且采用多粒度扫描的方式充分考虑原始数据的空间结构关系,通过多粒度扫描和级联结构进行表征学习。该算法可以自适应地选择级联的级数,具有参数少、训练简单的优点。在不同规模的图像数据集上的结果表明提出的gcAWELM具有良好的表征能力,在不同的学习任务(图像分类和人脸识别)中即使采用统一的参数设置,也能取得良好的表现。
其他文献
6月3日晚10点49分.经过近70轮竞价,中国艺术品拍卖成交价的世界纪录首次在国内诞生——北宋黄庭坚书法《砥柱铭》卷以3.9亿元落槌,加上12%的佣金.总成交价达到了4.368亿元。
针对2017年全国各地区高考中算法与框图的试题进行分析,与2016年相比,绝大多数地区试题的题型、分值保持不变,试题的难度总体相当,更加立足基础,强化应知、应会,有综合和创新
随着工业的迅猛发展全世界能源需求量激增,页岩气作为一种清洁能源得到了广泛关注,水力压裂成为页岩气开采的重要手段。页岩的微观结构复杂,含有多种不同矿物造成了页岩的非均质性,而这种非均质性会影响水力压裂过程中裂缝的扩展从而影响水力压裂的产气效果。页岩的非均质性多是基于微观层面的认识,水力压裂实验中难以进行页岩微观结构的观测,通过数值模拟手段讨论页岩的非均质性的相关研究较少,因此,针对页岩复杂的微观结构
摘要:当今世界,金融领域的全球化发展趋势明显,为使我国的金融业在世界金融市场中又好又快的发展,亟需高校对具有全球视角、能够适应国际竞争的金融专业人才的培养,而实践出真知,由此决定了实践教学在金融教学中的重要作用。  关键词:转型高校;金融专业;实践教学  中图分类号:G642.0 文献标志码:A 文章编号:1674-9324(2018)28-0194-02  供给侧结构性改革旨在调整经济结构,使要
目的观察天灸和假天灸对腰椎骨关节炎患者的疼痛缓解作用。方法将60例腰椎骨关节炎患者按1:1比例随机分组,观察组采用天灸方法,对照组采用假天灸。观察治疗前后简化McGill疼痛评
当前社会正处于一个飞速发展的时期,各行各业都取得了较为成功和显著的进展,在这一趋势之下,时代与社会都在不断的进步。其中,人力资源逐渐成为各大企业行业的重点工作。企业之间的竞争在近几年中变得尤为激烈,而人才的重要性在这一方面得到了更为深刻的体现。人才问题成为企业追求成功和避免失败的重要因素,由此,我们也可以看出人力资源在整个企业所占据的举足轻重的重要地位。人力招聘是企业获得人才的最主要的手段之一,也
中华人民共和国国家发展和改革委员会2017年最新发布的《中长期铁路网规划》规划方案中明确指出要发展城际客运铁路,规划建设支撑和引领新型城镇化发展、有效连接大中城市与中心城镇、服务通勤功能的城市群城际客运铁路。城际铁路项目工程庞大、建设复杂,进度极易发生延误,进度管理成为项目成败的关键之一,需在传统进度管理的基础上加以拓展。本文将柔性管理的思想运用到城际铁路项目进度管理之中,就其中可能存在的风险进行
近年来化石、石油等资源的枯竭以及人们的不合理利用引起了能源问题,寻找绿色替代能源也成了现阶段的热点。生物气作为一种新型高效的可再生绿色能源,已开发沼气发电、沼气制热等资源化利用技术。填埋场以及污水处理厂污泥厌氧消化产生的生物气除甲烷、二氧化碳等主要组分外,还含有其他痕量挥发性甲基硅氧烷(VMS),生物气燃烧过程中VMS会转变成微晶状的SiO_2,进而沉积在发动机、涡轮机等部件的表面,阻碍热量的传递
后现代主义产生于对现代社会发展中所出现问题的深刻反思基础之上。斯拉特瑞是后现代主义课程理论学者的代表之一,提倡在整体理解基础上的个体课程实践。这对于我国高等教育
自2016年《关于推进中小学生研学旅行的意见》等国家政策出台后,研学旅行在地理实践方向中占据重要地位。作为一门综合性较强的校外实践课程,研学旅行将学校理论教育的“研学”部分和校外实践教育的“旅行”部分相结合,让学生在真情实景中感受地理知识带来的奥秘,弥补了传统的课堂教学的局限性,在现实生活情境中不断加深学生对地理知识的探究和理解,并且有利于学生的观察力与实践力的培养。《普通高中地理课程标准(201