BP神经网络中一种逃离局部极小点的方法研究

被引量 : 14次 | 上传用户:htcp6600
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
BP(Back-Propagation)算法是现在用得最多的一种神经网络学习算法,由于它是基于最速下降方法,它有收敛速度慢、容易陷入局部极小点等缺点,这限制了它的应用范围。本文从标准BP算法容易陷入局部极小点这个问题着手,分析其容易陷入局部极小点的原因,即网络神经元的转换函数Sigmoid函数存在一个饱和区域,在此区域中网络节点的输入变化大但是其输出变化极小,甚至变化可以忽略不计,由此产生了网络的输出对输入的敏感性极小,网络的输出和输入不协调,网络陷入局部极小点。所以本文提出了一种改进价值函数,使价值函数不仅与输出层的输出有关还与隐藏层的输出有关,从而加大网络对输入的敏感性,使网络的输出和输入之间尽可能协调,使其能快速逃离局部极小点,收敛到全局最小点。然后根掘价值函数的性能曲面,对改进的BP算法的各参数(因子)在几种特殊情况下进行了讨论,并给出了迭代过程中最优参数的计算方法。在文章的最后对扩展的异或问题进行了仿真实验,用改进BP算法和标准带动量因子的BP算法与模拟退火算法进行了对比,对比结果表明:标准的BP算法只能确保收敛到极小点,但不能确定是局部极小点还是全局极小点,改进的BP算法能确保收敛到全局极小点;改进的BP算法比模拟退火算法的收敛速度快很多。因此,这种改进的方法能加快收敛速度并收敛到全局极小点,达到了期望的效果。
其他文献
本文介绍了印度发展林业的主要经验:(1)把林业摆在主要的位置;(2)加强森林资源的保护和管理;(3)大力发展社会林业,为乡村经济服务;(4)重视科研和干部培训。作者认为,中印同属
利用生物催化技术来合成手性化合物,其反应条件温和,选择性强,副反应少,收率相对较高,光学纯度高,环境污染较少,生产成本较低,因此受到越来越多的关注。本文对脂肪酶水解拆分
中国经济在最近几十年来一直保持快速的增长,尤其是加入WTO和即将来临的奥运会,更给中国经济发展注入了强劲的活力,与此同时,国内消费能力大幅提升,消费市场快速扩大。然而,
作为不锈钢最重要失效形式之一,点蚀备受关注。在点蚀抗力评价的浸泡方法、动电位方法和恒电位CPT三类评价技术中,浸泡方法精度、简捷度较差,动电位Eb方法由于低温过钝化在大
印度政府把林业排在国民经济的第 2位 ,其林业科技政策重视可持续发展目标和社会目标 ,强调国家机构间的密切合作 ,鼓励地方更多地参与林业科研和森林的管理和保护。印度制定
印度开展社会林业的基本经验是:(1)注重近期经济效益,其主要作法是,选用多用途树种,多种树种混交造林和集约经营;(2)积极引进并充分利用国际援助资金。文章还介绍了印度社会
概述了印度社会林业兴起的背景 ,详细介绍了目前主要的 3种社会林业形式 (乡村片林、联合森林经营和生态开发 )的内容、特点及存在的问题。指出了今后印度社会林业的发展趋势
互联网的快速发展和广泛应用,给人们的工作和生活带来了便利,为主流意识形态的发展传播提供了机遇,也对我国意识形态建设和文化安全提出了更严峻的挑战。针对网络信息时代各
目的:观察香砂六君子汤合旋覆代赭汤联合甲地孕酮改善肿瘤化疗患者生活质量的作用。方法:64例接受化疗的晚期肿瘤患者,随机分成2组,对照组口服甲地孕酮片;治疗组在对照组的基
随着科学技术的进步和采用新体制、新技术和新工艺的电子信息系统的快速发展,人们对网络测量提出了更高的要求。网络测量技术经历了手动测量、点频测量发展到现在的智能化、