面向大规模学习问题的前向多层神经网络若干问题的探讨

来源 :华东理工大学 | 被引量 : 0次 | 上传用户:luluxxx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
本文重点研究高维大样本多类别的大规模学习问题,就前向多层神经网络的原理和应用进行了如下探讨: 1.针对高维大样本的学习问题的复杂性及在实际应用中的可行性,提出任务分解的思想,把复杂的多类识别问题分解成基于预处理的多个两类问题,既不影响网络的学习准确率,又提高了网络的学习速度; 2.提出了解决样本数目不平衡问题的解决方法,即虚拟增加小样本的数目并给出具体的程序实现; 3.通过讨论前向神经网络隐层数与隐层节点数的选择,提出一个可行的选择隐层节点数的公式,经过本文实验证明,该公式具有很好的指导意义; 4.通过讨论神经网络的学习算法及改进方法,提出了一种新的S型活化函数的公式。 为了验证本文提到方法的有效性,最后将本文提到的思想与方法应用于UCI标准数据集USPS、Letter上。实验结果表明,与现有的分类方法如标准BP神经网络、标准RBF网络、线性分类方法等相比,该方法具有学习速度快、准确率高、记忆样本数少等优点。
其他文献
随着网络技术发展和网络应用的日益多样化,传统互联网体系结构中网络控制灵活性不足、网络资源利用率低等刚性技术弱点逐渐凸显,为此迫切需要找到一种能使网络需求与资源有机适
近年来,机器学习技术在人脸识别、物体检测、步态识别等各类模式识别问题上得到了广泛且卓有成效的应用。由于现实世界的复杂性,机器学习模型需要从极其凌乱的数据中挖掘出感兴
As the whole world is going informatized, all the industries are struggling to gettheir business automated by means of computers for small to medium business an
纹理合成技术是计算机图形学的一个主要研究方向,因为其实用、简便的特性使得它在许多领域有着重要的作用,尤其近几年来,随着CG产业和在线游戏的快速发展,对于高效及高质量的纹理
计算机动画一直是计算机图形学领域的一个研究热点,影视特效的发展以及电子游戏的强力需求进一步推动了这一方向的研究。然而,真实世界蕴涵着复杂的运动规律,而计算机图形学领域
多媒体数据的有效表达是实现其语义理解和分类识别等应用一个基础性难点问题。多媒体数据的张量表达能有效避免传统基于向量或矩阵等形式的表达方法在高维多媒体数据上产生的
随着宽带互联网的迅速发展,网络规模在不断扩大,网络结构日渐复杂,网络业务日趋丰富,网络流量高速增长。电信运营商及企业网管理人员需要借助可靠、有效的网络业务流量监测系统对
学位
以九十年代的工作流技术为起点,业务流程管理技术发展到现在已经得到了普遍的应用,市面上也出现了很多优秀和成熟的业务流程管理的产品。但是这些业务流程产品往往重视工作流自
随着计算机技术的发展,流数据应用越来越普遍。传感器网络中存在很多分布式流数据。流数据应用场景对实时处理分析有更高的要求,需要研究高效可扩展的流连接模型。由于分布式流
在机器学习和数据挖掘应用中,为训练数据收集类别、属性等标签信息往往是一项繁重且开销昂贵的工作。近年来,“众包”模式的出现为这个问题带来了转机,例如在亚马逊Mechanical T