【摘 要】
:
机器学习在各个领域得到广泛应用,宽度学习系统(Broad Learning System,BLS)作为一种新型的随机前馈神经网络,有助于机器学习中的特征表示和数据分类。由于BLS具有高效的训练
论文部分内容阅读
机器学习在各个领域得到广泛应用,宽度学习系统(Broad Learning System,BLS)作为一种新型的随机前馈神经网络,有助于机器学习中的特征表示和数据分类。由于BLS具有高效的训练方式和良好的泛化能力,近几年来吸引了广大学者的学习和研究。BLS中的特征节点是由原始特征随机映射得到,特征节点再次经过随机映射之后变成增强节点,接着特征节点和增强节点拼接在一起构成了BLS的隐藏层。当隐藏层确定之后,宽度学习系统输出层的权重通过求解伪逆来确定,不依赖于反向传播算法,不需要进行迭代更新,具有更好的泛化性和更高的训练效率。但是BLS却有两个缺点:1)BLS的分类性能过度依赖于隐藏层节点的数量,并且需要人工调整,两层节点所需要确定的参数规模较大;2)双重随机映射带来不确定性,导致模型对噪声数据的敏感度提高,并对性能产生不可预知的影响。本文针对宽度学习系统存在的问题,提出了两个改进方法。第一个是对BLS增强节点的生成方式进行改进,提出基于核方法的宽度学习系统(Kernel-based BLS,KBLS),将从第一次映射获得的特征节点转换到核空间而不是随机特征空间中。这种操作可以减少节点生成中的不确定性,提高算法的鲁棒性,同时又固定了增强节点的数量,不再需要进行人工调整。第二个改进方法是为了进一步提高基于KBLS的稳定性和抗噪声能力,提出基于Boosting的渐进式集成框架(Progressive ensemble kernel-based BLS,PEKB)。该集成方法通过对先训练的基分类器的预测损失进行梯度和次梯度求解,得到残差作为后续基分类器的训练标签,在达到停止条件后把所有基分类器的结果进行集成得到最终的结果。本文对提出的算法进行了详细的复杂度分析和参数分析,针对现有的随机前馈神经网络方法,在20个标准数据集上进行了对比实验,并将算法应用于网络入侵检测领域的大规模数据集上。实验结果表明本文提出的方法在准确性和稳定性方面都达到了较好的效果。
其他文献
背景和目的:异常脂质介导的肝内炎症-免疫调节紊乱相关的低度系统性炎性信号途径活化在非酒精性脂肪性肝病(NAFLD)的发生发展中占有重要地位。作为肝内代谢-免疫-炎症活化过
对比剂也被称为造影剂,是影像诊断与介入放射学必要的药物之一。在药物归类统计中虽属于小品种,但是近几年对比剂的市场份额在我国医药行业中属于增长较快的产品。作为最早进入中国对比剂市场的外资企业B公司,是全球对比剂的领导者,其在中国区对比剂的市场份额在近几年受到国产仿制药的冲击一直处于不断下滑的态势。产品需求预测的效果一直以来都不佳。由于在销售管理工作中缺乏定量的预测模型来进行需求预测,仅使用定性的预测
气体是人类生存发展必不可少的自然资源。随着社会与经济的发展,人们生活水平的提升,在商业、工业以及生活中需要更加清洁的能源气分,同时,有些气体组分又是一些重要的化学及
视频事件识别是指从视频中识别出事件的时空视觉模式,在智能监控、医疗看护、机器人视觉等诸多领域有着重要的应用前景,是计算机视觉领域的一个热点研究课题。视频数据具有数
随着世界人权保护事业的发展,国际上保护妇女儿童权利的呼声越来越高。多年以来,各个国家与国际组织共同努力消除对妇女儿童的年龄、性别歧视和权利侵犯来提升妇女儿童的社会
卷积神经网络是目前人工智能领域研究的重点和热点,关于它的研究主要集中在如何实现诸如分类、检测等任务的良好性能。相比之下,卷积神经网络中神经元的语义排列方式在很大程度上被当前研究忽视,因为它不能明显提升这些任务的精度。受到视觉皮层神经元的柱状组织和心理学中语义网络模型的启发,本文基于图像识别任务,将神经元之间的语义排列方式融入到卷积神经网络中。简单来说,在卷积神经网络中,对语义相关或相近的输入响应强
城市是研究植被对全球变化响应的天然实验室。植物叶功能性状(PFT-L)随所处环境发生适应性变化,是表征城市化对植物生长影响的可靠便捷指标。已有研究多局限于单一尺度,实地
研究背景:胆囊胆固醇结石病(胆石病)是普外科的常见病。多基因遗传因素引起肝肠循环胆固醇和胆汁酸代谢异常导致胆汁胆固醇过饱和、胆囊功能障碍以及胆汁中促/抗成核因子平衡紊
第一部分mTOR信号通路在肝硬化门静脉高压症患者及动物模型的肿大脾脏中表达情况及其动态关系目的:探索mTOR信号通路在各种病因所致的门静脉高压性脾肿大中的活化水平,分析mT
四足机器人对工作环境的要求低,具有环境适应性强、机动性好、运动稳定性好和承载能力强等优点,因此在一些事故现场的勘察和救灾工作上有着出色的表现。而天津滨海新区爆炸等事故的发生更是对将机器人应用于救灾事故中有了迫切的需求。本课题来源于国家973计划重点基础研究项目“核电站紧急救灾机器人的基础科学问题”。本文主要是针四足机器人在应对事故中存在的突发事件以及灾后路面的实际情况进行讨论。为保障机器人平稳运行