带动量项的线性输出BP网络收敛性

来源 :2005年全国高等学校计算数学年会暨第八届全国青年计算数学研讨会 | 被引量 : 0次 | 上传用户:dailynice
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
线性输出的BP神经网络已被成功应用于解决模式分类和函数逼近等问题,有关BP学习算法的收敛性研究可参见文献.但是,传统BP算法具有两大缺点:收敛速度慢和容易陷入局部极小.一种常见的改进策略是在它的权值更新规则中加入动量项,即上一步权值改变量的某一倍数,使得当前步的权值改变不仅受到梯度下降方向的影响,而且与前一次的权值改变有关(即惯性作用).大量的数值实验表明,与传统的BP算法相比,带动量项的BP算法犹如低通滤波器平滑了权值变化的轨迹,进而达到稳定算法和加速收敛的目的.另外,一些文章用类比方法或者概率的方法也给出了带动量项的BP算法收敛性的近似分析或者说明.本文的主要目的是给出线性输出带动量项的BP算法的确定性收敛结果以及严格的数学证明。
其他文献
三聚氰胺不是食品原料,也不是食品添加剂,禁止人为添加到食品中。对在食品中人为添加三聚氰胺的,依法追究法律责任。三聚氰胺作为化工原料,可用于塑料、涂料、粘合剂、食品包装材
<正> 本文考虑如何求解下面的l_1-模问题 min sum from i=1 to m(|X_i|) s.t Ax=a (1.1) Bx=b 其中a.b∈R~n为已知向量,A.B是m&#215;n实矩阵且满足A+iB=JF,J~T=(e_i_1),…,e_
<正> 设线性方程组Ax=b,系数矩阵A=D-L-U或A=D-L-E-U,其中D非奇异。不妨设D=I,为讨论求解Ax=b的AOR法,EAOR法和TOR法的收敛性,[1—4]中分别给出了它们的迭代矩阵Lγω=(I-γL)-
文[3]提出了求解大型对称矩阵特征值问题的DL(Davidson—Lanczos)方法。文[1]种[2]对[3]作了改进,分别提出了块DL方法和DL-Chebyshev方法。但当要求的特征值密集而不要求的特
十多年来:我国的成人教育事业迅速发展,它在提高职工素质,培养造就各类人才,促进经济和社会发展方面,起了十分显著的作用。但是,随着改革的深入,它在诸多方面已经暴露出不少
固定资产投资对经济社会发展影响很大。这种影响具有全面性、久远性和战略性。又由于投资活动涉及到各类投资主体的切身利益及相关部门、地区、单位的利害关系,因此决定了投资
A.女性业务员,背后常常召来一串串闲言碎语。然而,柔中带刚的张素华,面对领导和同志们那期盼的目光,硬是顶着世俗的偏见,毅然地踏上了西去的列车。 1980年,张素华毕业于东北
目的比较两种不同护理方法对重型颅脑损伤患者的效果。方法将90例重型颅脑损伤患者随机分为观察组和对照组,观察组采用循证护理,对照组采用常规护理。结果观察组患者预后优于
<正> 1 问题的提法先说明一些记号,R~(n×m)表示所有n×m实矩阵的全体。OR~(n×m)表示所有n×n正交矩阵的
一、分院的领导班子年富力强,富有事业心,有较高的组织能力和领导水平,符合中央干部的四化要求.成人高校工作没有参照,妇女院校在教学上要有自己的特点,这就要求妇干院的领导