基于交叉熵的随机赋权网络

来源 :河北大学 | 被引量 : 0次 | 上传用户:lanangel1234
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,随着信息技术与计算机应用技术的不断进步发展,整个社会进入了大数据时代.因此,如何利用当前先进的数据分析技术,从海量的数据中挖掘出所需的信息成为最关键的问题.分类问题作为数据分析中的主要问题也在不断地引起人们的关注.黄广斌提出了一种结构简单的神经网络:极速学习机,它是基于最小均方误差的原则求得矩阵广义逆,具有训练时间短,测试精度较高的优点.但是,因为ELM仅考虑的是训练数据经验误差最小化,容易产生过拟合现象.本文的主要工作是:提出用交叉熵损失函数替代均方误差损失函数,在神经网络产生过拟合情况下,比较两者的测试精度,以此来比较二者的泛化能力.具体地,过拟合现象是机器学习中一种常见的现象,表现为分类器能够100%的正确分类训练样本数据,但对于其他数据则表现较差,其原因是构造的函数过于精细复杂.在ELM中,通过计算隐藏输出矩阵的广义逆,找到具有最小二范数的最优解.但由于隐层输出矩阵的行数远远大于列数,即隐层节点的数量很多,会出现过拟合现象.为了解决这个问题,本文提出一种基于交叉熵的随机赋权网络(CE-RWNNs),用交叉熵最小化原理代替均方误差最小化原理.实验结果证明,提出的CE-RWNNs可以一定程度上克服在具有许多隐层节点的ELM中过拟合的缺点.
其他文献
本文定义并研究了 Clifford分析中具有k-正则核的积分算子的性质,主要是T(Teodorescu)算子的性质.T算子是定义在区域上的奇异积分算子.在Clifford分析和复分析中,许多关于T算子的理论已经发展的很完善,但在Clifford分析中,具有k-正则核的T算子的相关性质还没有得到研究.k-正则函数是Clifford分析中正则函数的一种自然的推广,是在Dirac算子D=(?)的基础上得
学位
请下载后查看,本文暂不支持在线获取查看简介。 Please download to view, this article does not support online access to view profile.
期刊
设G是一个连通图,V(G)表示G的顶点集合,令n表示图G的顶点数.本学位论文研究的防火问题是由Hartnell在1995年提出的:设G是一个连通图且v∈V(G),火开始在顶点v处燃起,一个消防
一、主要发达国家均已“债台高筑”当前,全球主权债务集中在主要发达国家和地区,且累积了很高的主权债务危机风险。根据国际货币基金 First, the major developed countries
四阶椭圆边值问题是人们比较关注的一个方向.对于这类问题,一般有协调有限元和非协调有限元两种方法,相对于协调有限元中要求分片多项式具有C1光滑性和单元自由度的个数较高等
本刊讯以“提升电力技术装备,构建全球能源互联网”为主题的“第十一届上海国际电力设备及技术展览会”(简称“EP电力展”)暨“2017中国国际电力节能环保技术和装备展览会”
大学生从校园走向社会,是校园文化与企业文化的相遇.如何使刚毕业的大学生顺利踏入社会,走向工作岗位,实现自己的个人理想,依然是每个人思考的重点.因而校园文化与企业文化对
丢番图逼近是数论中的一个重要的研究分支,其主要内容是研究实数的有理逼近.1842年,Dirichlet首先给出了实数有理逼近的一个重要的结论.1926年,Khint chine的结果,开创了用测度意义
一、2014年国际石油市场回顾  2014年,国际油价总体呈前高后低宽幅震荡走势。从6月中下旬开始,四个月内国际原油市场价格整体跌幅超20%。BRENT首行期货价格由6月19日的115.06