前馈神经网络的梯度-牛顿耦合学习算法

来源 :大庆石油学院学报 | 被引量 : 0次 | 上传用户:gliu0307
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对前馈神经网络所使用的学习算法应具有收敛速度快、计算复杂度小、稳定性好的特点 ,利用梯度算法在网络学习初始阶段可使误差函数下降速度快 ,而牛顿法在学习后期可使收敛率提高 ,且具有二阶收敛速度 ,提出了一种梯度 -牛顿耦合学习算法 ;该方法充分发挥了两种算法各自的特长 ,能弥补牛顿法在网络学习初始阶段对学习初值的敏感性和梯度算法在学习后期的震荡现象等不足 ;给出了学习速度参数在线优化、带保护的拟牛顿法、梯度 -牛顿竞争法以及梯度 -牛顿分段等 4种确定学习参数的方案 The learning algorithm used in feedforward neural network should have the characteristics of fast convergence, small computational complexity and good stability. The gradient algorithm can make the error function decline faster in the initial stage of network learning, while Newton’s method can be used in the later stage of learning So that the convergence rate is improved and the second-order convergence rate is obtained. A gradient-Newton coupled learning algorithm is proposed. This method gives full play to each algorithm’s specialty and can make up for the sensitivity of Newton’s method to the initial value of learning in the initial stage of network learning Sexual and gradient algorithm in the late learning shock and other deficiencies; given the learning speed parameters online optimization, with the protection of Quasi-Newton method, gradient - Newton competition and Gradient - Newton section 4 kinds of learning parameters to determine the program
其他文献
请下载后查看,本文暂不支持在线获取查看简介。 Please download to view, this article does not support online access to view profile.
在二十世纪中国文学史上,丁玲是一位具有独特意义的作家。她的一生充满着传奇色彩,“一个浪来,被托上云霄,一个波去,又被沉入海底。”在政治生涯中,没有哪一位女性作家比她更辉煌,更
设计了一种高功率因数整流器.通过高功率因数PWM控制芯片L4981A,构建桥式AC/DC电路拓朴,分析了其工作原理并进行了系统仿真,叙述了拓朴电路的设计和参数选取,最后给出了样机
为了提高1 000 MW机组在厂用电全部失去的情况下高、低压旁路系统的可靠性,通过分析高、低压旁路系统在机组跳闸过程中存在的问题,实施技术改造措施,将油动机控制电源接至UPS
期刊
@@
全面实施素质教育,是提高教育现代化水平的核心内容。新课程标准要求小学语文教师,应致力于学生语文素养的形成与发展,因材施教,掌握学生的心理特点和身心发展规律进行教育和
期刊
根据罗杰斯三比值法的理论,建立了变压器故障诊断的BP网络模型.采用启发式学习算法,减少了学习过程的振荡趋势,改善了收敛条件;采用改进的自适应调整学习率方法,减少了出现局
本文通过对荣华二采区10
期刊
介绍了抽油机井系统效率的数学模型及系统效率控制图的功能 ,论述了抽油机井系统效率控制图绘制系统的设计方法 .绘制系统可实现抽油机井系统效率控制图的显示和打印 ,并能依
按传播媒介分类,《西游记》的传播大致可分为文本传播、口头传播和电子传播。其中文本传播是《西游记》整个传播史上最主要的传播形态,口头传播包括说唱传播和戏曲传播,电子媒介
学位
21世纪我国经济进入发展快车道,经济发展中一些深层次的矛盾逐渐显现出来,诸如经济过剩、市场相对狭小、东西部经济水平差距扩大、物价上涨导致发达地区密集型加工企业成本上涨