基于L-GEM的深度学习特征提取

被引量 : 0次 | 上传用户:lindashu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,深度学习一跃成为模式识别领域的研究热门,其充分模拟了人脑深层的识别认知过程,并迅速得到了研究机构和微软等公司厂家广泛的应用和推广。深度学习本质上是一种特征提取的模型,其通过贪心算法逐层训练的策略,能够自动地从原始数据中提取出不同层次的特征集合,而这些特征集合代表了原始数据中不同层次的抽象概念和意义。虽然深度学习如此成功,但是,直接使用深度学习所得到的单层特征集合或者简单地组合多层特征集合来进行分类是不完全合理的,因此本文提出了使用特征选择技术来应用于深度学习所学习到的特征集合。特征选择是模式分类的重要技术之一,其能够有效地减少冗余特征,并且在特征集合中选择出最优的特征子集来进行分类器的学习。另一方面,本文使用了基于局部泛化误差模型的特征选择算法,局部泛化误差模型考虑到分类器的局部泛化能力,具有良好的创新性,同时也得到了广泛的应用价值。文章中首先对基于局部泛化误差模型在浅层架构上的两种不同特征选择算法进行了实验对比,两者是基于不同的特征搜索策略,实验结果表明,启发式后向搜索算法更适用于深度学习的特征选择。然后,本文使用自动编码器技术训练三层的深层架构网络,利用基于局部泛化误差模型启发式后向搜索的特征选择算法分别做了四组实验。其中第一、二组实验分别测试了在深层架构网络隐含层神经元个数不同的情况下各层特征组合进行特征选择的效果。实验结果表明,使用单层的特征进行特征选择后,特征数量大量减少,同时对其分类效果影响不大,这是由于单层特征内部没有太大的相关性,而使用多层特征来进行特征选择时,通过特征的筛选更能有效提高分类器的准确率,把其中冗余的特征剔除掉,且增加深层架构的神经元个数能明显提高特征选择的效果;第三组实验通过改变深度学习训练的参数说明了其训练好坏也会影响到特征选择的效果;最后统计特征选择所得到的特征可以发现,高层次的特征数量较少,其表达的信息量足够丰富而低层次的特征所含的信息量较少。
其他文献
班主任是班级工作的组织者、管理者和指导者。班级管理的重要目的是培养学生良好的习惯和品质.研究和探索有利于学生的自我教育、自主发展、符合学生年龄特征的班级文化目标.发
<正>完成原油产量328.2万吨,完成内部利润27.71亿元,居油田开发单位之首……2018年,胜利油田海洋采油厂"二次创业"成绩亮眼。2018年,为贯彻落实胜利油田"五大战略""三大目标"
随着通信科技的日益普及,垃圾短信问题也变得日益严峻,其严重的泛滥不仅仅严重影响人们的正常生活,而且严重影响社会稳定和公共安全。垃圾短信对网络产生冲击,更造成严重的不良社
本文在淀粉糖生产线不同的工序上取样,以生产过程中糖糟固态类杂质作为研究对象,系统地测定研究了糖糟副产物在液化、糖化过程的分布、组成及其理化性质,也测定研究了糖浆的滤糟
近年来,中国金融市场上许多投资基金的业绩回报低于预期,行业黑幕不时被媒体曝光,基金经理的诚信遭受公众的质疑,导致整个投资基金行业陷入“委托—代理冲突”的漩涡,投资者对基金
<正>人民公仆,这是他们平凡而又质朴的名字。闻其名而知其义,作为人民公仆,其宗旨就是要全心全意为人民服务。时代向前,公仆的宗旨始终不变;发展向前,公仆肩负的责任更加艰巨
随着我国人口老龄化问题的加剧,机构养老服务成为我国养老服务体系的重要支撑力量,能否提供更加优质的养老服务关系着老年人在养老机构中的生活质量与幸福度。目前,国内的机构养
随着桥梁技术的不断发展,出现了许多新型的桥梁结构。矮塔斜拉桥就是近年来出现的一种新型桥梁结构形式。这种桥型是介于常规斜拉桥与梁桥之间的一种组合体系桥梁,使得梁桥的
目的探讨骨髓干细胞通过调节基质金属蛋白酶2/基质金属蛋白酶抑制剂1(MMP2/TIMP1)系统改善急性心肌梗死后心力衰竭心室重构。方法结扎雌性 SD 大鼠左冠状动脉制作急性心肌梗
目的肺炎支原体(Mycoplasma pneumoniae,MP)是介于细菌与病毒之间,无细胞壁的一类原核细胞型生物。它不但是原发性非典型肺炎的重要病原体,也是成年人社区获得性肺炎的常见病