【摘 要】
:
由于经典的人工神经网络的训练时间过长,导致其应用范围受到了限制。极限学习机(Extreme Learning Machine,ELM)的问世,一举打破这一僵局,即ELM能够在保证相当的分类精度前提
论文部分内容阅读
由于经典的人工神经网络的训练时间过长,导致其应用范围受到了限制。极限学习机(Extreme Learning Machine,ELM)的问世,一举打破这一僵局,即ELM能够在保证相当的分类精度前提下,可大幅度缩减前馈神经网络的训练时间。然而,与BP(Back Propagation,BP)神经网络一样,虽然都具备全局逼近能力,但当面临数据样本相对复杂的情况时,极限学习机为了保证学习能力,就需要增加隐节点个数,如此必然导致网络结构的复杂性。随机投影方法是目前处理海量、高维数据的有效工具之一。因此本文考虑在传统神经网络基础上借鉴极限学习机的快速学习思想,设计出更加快速的人工神经网络。本文以平面高斯网络(Plane-Gaussian,PG)为主要研究对象,由于PG隐层参数是通过聚类算法获得,网络训练时间较长,且易陷入局部最优解。针对它的缺陷,本文提出一种改进算法,即随机投影下的平面高斯神经网络(Plane-Gaussian Network Based on Random Projection,RandPG),并在网络结构上进一步优化。本文的研究工作主要包括以下几点:(1)借鉴极限学习机的网络学习机制,即采用随机投影的方式获得RandPG网络隐层激活函数的权值和偏置,避免了PG网络的聚类方法,而且从理论上证明了该网络的全局逼近性和分类能力。在分类和回归数据集上的实验结果表明:RandPG网络继承了PG网络适用于平面状数据分类的特性,训练速度更快。而在同样少的隐节点数目下,实验结果表明,对平面型数据,RandPG网络的训练精度和测试精度高于ELM,对其它未知分布的部分数据,RandPG与ELM具有相当的分类能力,但是在样本复杂的网络流数据集上结果不甚理想,在训练时间和测试时间方面,RandPG和ELM的速度都很快。而且,实验过程中发现采用随机方法,RandPG的确表现出能够跳出局部最优的现象。(2)在单隐层RandPG网络基础上,本文亦设计了双隐层的网络结构,提出双隐层的RandPG网络(Two-hidden-layer RandPG,TRandPG),即它的第一层隐层的参数同单层RandPG一样,通过随机投影的方式产生,它的第二个隐层参数通过倒推的参数求解方式得出。相比于单层RandPG网络,在分类和回归问题上,双层RandPG都取得了更高的精度,进一步验证了随着网络结构复杂性增加,有利于提高神经网络的表达能力。(3)将本文方法与卷积神经网络(Convolutional Neural Networks,CNN)相结合,提出了CNN-RandPG网络,并应用到图像识别领域,以此测试RandPG网络解决实际问题的能力。具体做法是:先利用卷积神经网络提取图像特征,再利用RandPG网络作为分类器。在MNIST数据集上的实验结果表明,相对于经典的采用BP算法进行训练的CNN网络,在隐节点相同的情况下,本文所提方法能有效地提高识别率,且识别过程只需要卷积神经网络一半的时间。
其他文献
局部放电是电气设备发生绝缘劣化的主要表现形式,因此局部放电检测是评估设备绝缘状态的有效手段。现场对GIS局放检测发现的主要是金属颗粒以及悬浮放电的缺陷,鲜有固体绝缘缺陷的案例记录,然而电网的运行故障记录中涉及GIS绝缘盆子的突发性击穿或闪络故障时有发生,其中多起案例中设备有安装在线监测系统,但是事发前未捕获故障信号特征。因此,有效发现GIS固体绝缘缺陷并对发生绝缘严重劣化的危险缺陷进行及时预警,是
高速公路安全评价是对高速公路道路条件、安全设施、管理水平和服务水平等方面进行相对满意度的判断,其意义在于及时掌握高速公路安全状况。结合风险识别进一步探索高速公路安全问题的内在规律,有助于从技术和行政方面加强高速公路安全管理,减少交通事故,保障人民生命财产安全。本文基于高速公路安全评价理论,对高速公路安全影响因素进行分析,构建全面有效的评价指标体系,从安全等级划分的角度建立高速公路安全评价模型,对河
近年来,氢键(HB)、卤键(XB)、范德华作用、疏水作用等非共价作用力作为设计构筑超分子系统最重要的作用力而备受关注。其中,氢键和卤键由于具有强度适中、高度方向性和强度可调节性等特点成为晶体工程、材料化学等领域常用的非共价作用力。本论文重点研究了溶液及固相中分子或离子间氢键和卤键的情况,以及在特定体系中从溶液到晶体这一过程氢键与卤键所起的作用,这不仅有助于我们更深入地认识分子自组装形成晶体的过程,
当前精准扶贫工作已步入脱贫攻坚收官阶段,贫困村的发展备受各界关注。同时,学术界对于贫困的研究也从以往的单一经济维度,转向空间贫困视角。本研究从贫困村入手,以铜川市印台区贫困村为研究对象,利用SPSS23、Arcgis10.2.2、Yaahp软件技术,完成贫困村现状调研及问题分析、贫困村分级分类、村庄规划策略研究、红土镇惠家沟村实例应用四部分研究内容。通过研究,一是可深化空间贫困理论内涵,二是为改善
压缩感知理论指出,在一定的基下,稀疏信号可以通过较低的采样率进行维数采样,然后利用稀疏重建算法重建原始信号。压缩感知理论突破了传统奈奎斯特采样定理的局限性。因此,将
近年来,云计算与大数据技术得到了飞速发展。从智慧医疗到智慧城市、从精准扶贫到精密工业、从政府办公到个性化的推荐系统,都展示着云计算与大数据给人们生活带来的变化。但
从数据挖掘概念提出至今,数据挖掘技术得到越来越多人的关注并逐渐走向成熟。目前,各式各样的数据挖掘技术被广泛的运用于现实生活中,并在不知不觉中改变着我们的生活方式。
随着云计算与电子商务的发展,网络攻击的威胁愈加严重,网络安全问题受到各界关注。据统计,DDoS攻击是目前最为频繁且危害性最高的网络攻击手段。此攻击针对目标的可用性,使其
信息化教学以现代教学理念为指导,以信息技术为支撑,是运用现代化方式的教学。在教学过程中要求教学观念、教学组织形式、教学内容呈现方式、教学工具、教学评价以及教学环境信息化。《教育信息化2.0行动计划》指出十九大之后,教育信息化进入2.0时代,这不仅标志着我国教育现代化向前迈进一大步,而且也指明信息化教学需要进一步发展以适应我国教育信息化发展步伐。中学思想政治课作为学校德育工作的重要渠道,要适应新时代
安娜·卡斯蒂洛是美国当代最著名的墨西哥裔女作家之一,同时也是一位出色的奇卡娜女权主义者。她的作品主要反映了不同时期奇卡娜女性问题。《米瓦拉信笺》、《像剥洋葱般剥