基于凸最佳增长极限学习机的隐层结构动态调整方法研究

来源 :东北大学 | 被引量 : 0次 | 上传用户:alimamaai
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
极限学习机作为一种基于广义的单隐层前馈神经网络的机器学习算法,由于其在回归问题和分类问题上都有很好的执行效果,因而近年来不论是在国内还是在国外都受到了越来越多的关注。众所周知,确定极限学习机的结构对其应用的成功起着至关重要的作用。而极限学习机结构的确定问题最根本的还是隐藏层结构的构建问题,获得一个更小规模的隐藏层结构可以为极限学习机带来更大的速度提升。本文在仔细剖析当前经典的极限学习机结构调整的相关算法之后,结合基于凸最佳增长的极限学习机理论(Convex Incremental Extreme Learning Machine,CI-ELM),提出了可修剪的凸最佳增长极限学习机(Pruned-Convex Incremental Extreme Learning Machine,PCI-ELM)。并且,为了确保所构建的单隐层神经网络有着较好的泛化性能,进一步对PCI-ELM进行改进,在神经元添加过程中引入筛选策略,从而提出了增强的可修剪凸最佳增长极限学习机(Enhanced Pruned-Convex Incremental Extreme Learning Machine,EPCI-ELM)。为了使得单隐层前馈神经网络的调整更加灵活,所得到的隐藏层结构最紧凑,本文摆脱了对单个神经网络的逐步构建最终形成目标神经网络的形式,而是提出了一种更具动态性的隐藏层结构确定算法:动态凸最佳增长的极限学习机(Dynamic Convex Incremental Extreme Learning Machine,DCI-ELM)。DCI-ELM 充分比较和组织当前所有引入的隐藏层神经元,从中寻找最紧凑的隐藏层结构。通过使用当前已知的隐藏层神经元,在构建过程中筛选出每个规模下最优的隐藏层结构。这种筛选具有竞争性,相同规模下,只有更好学习精度的神经网络会被保留用于寻找包含更好的更大规模隐藏层结构神经网络。并且,每个规模的神经网络在引入新的神经元时,都会与训练目标比较,拥有最简隐藏层结构的神经网络将最终胜出。最后,通过实验测试了 PCI-ELM、EPCI-ELM以及DCI-ELM在极限学习机隐藏层结构优化方面的效果。实验结果表明,PCI-ELM、EPCI-ELM以及DCI-ELM能够很好隐藏层结构进行控制,使得构建的单隐层前馈神经网络更加紧凑。
其他文献
近年我国的养猪业飞速发展,农村养猪户逐年增多,其存栏量多少不一,由于各户家庭状况、经济条件、文化水平、地域环境的不同,造成农村养猪中存在诸多不利于生产的问题,此问题如得不
【正】 IEC60974-1:1998"弧焊设备第1部分:焊接电源"的修订版已于2000年11月出版发行。本次修订的IEC 60974的2000版与1998年版相比,仅仅是增加了有关等离子弧切割机的要求,
为保持饱和软土的天然结构特征,野外采用开挖探井,环刀取土的方法获得了大量Ⅰ级土试样,并在室内进行有关饱和软土的物理力学性质试验。结果表明:秦皇岛滨海饱和软土的天然含水量
随着水电的快速发展及装机容量不断增大,结构巨型化和工况变化频繁已成必然趋势,机组轴系-支承-厂房耦联结构间的相互作用及系统稳定性问题愈发突出。水电站中很多构件由螺栓装配到一起,组合部件刚度相对较低,对于整体耦联结构振动特性必然存在一定影响,应在动力设计中重点关注。但由于影响因素众多且复杂,目前国内外对于水电站耦联结构螺栓连接问题尚未进行深入研究,仅限于螺栓强度验算以及研究制造安装工艺问题。本文对高
本文对175例恶性肿瘤进行全身骨显像,阳性率为76%。其中有60例骨痛者与X线检查对照,X线检查阳性率为75%,骨显像阳性率为95%,骨骨像呈多发病灶者49例,单发病灶8例。骨痛时间长短与X线改变和骨显像有一定
【正】 即将迎来崭新的2004年之际,回顾2003,我们不难惊喜地发现,整个电焊机行业界走过了与时俱进、开拓创新的一年。生产经营状况良好,市场运作步骤规范,销售平台趋于完善。
变形和稳定性问题是岩土工程中需要解决的两个主要问题,尤其是在软土地基上修建公路,这两个问题就更加突出。从工程实用角度出发,将饱和软土地基视为Biot介质,假定路堤荷载瞬时施
1995年2月至1996年1月,我科用异长春花碱(NVB)和顺铂(PDD)联合治疗非小细胞肺癌30例,患者均经病理、组织学证实,鳞部5例、腺癌19例、肺泡细胞癌3例、腺鳞癌3例。Ⅲ期10例,Ⅳ期20例,治疗结果无CR患者,PR14例,有效率为46.7%,主要毒
曲霉菌病是多种禽类、哺乳动物和人的真菌病,主要侵害呼吸器官,是养禽业中危害严重的一种真菌病。健康鹅通过吸入含有霉菌孢子的空气或采食染菌的饲料经呼吸道或消化道感染,还可
以台缙高速公路苍岭隧道为例,通过水文地质综合勘探方法,查明隧道不同裂隙发育程度岩体的渗透系数K值。然后利用地下水动力学法、地下水径流模数法对隧道开挖涌水量进行了预测。通过施工检验发现,涌水段位置和涌水量总体较接近,说明预测工作对隧道的施工开挖和排水设计具有指导意义。