基于并行结构的BP改进算法研究

来源 :山东师范大学 | 被引量 : 0次 | 上传用户:z444567059
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近几年,关于神经网络的研究取得了令人瞩目的进展,引起了包括计算机科学、脑神经科学、人工智能等学科领域内的科学家的巨大热情和广泛兴趣。神经网络是人类对其大脑信息处理机制的模拟,希望通过模拟人脑的结构和思维来实现它的功能,其理论的应用已渗透到各个领域。BP神经网络是目前神经网络理论发展最完善、应用最为广泛的网络,其误差反传的特性能够解决加入隐含层之后的学习问题,其实质是采用梯度下降法使权值的改变总是朝着误差变小的方向改进,最终达到最小误差。由于它采用非线性规划中的最速下降法,因而存在极易陷入局部极小的缺陷,并且收敛速度很慢。BP神经网络在处理非结构性问题方面有着突出的优点,正是由于BP神经网络本身的并行性和鲁棒性为解决非结构性问题提供了一条颇具潜力的新途径,引起了人们的巨大兴趣。因此可结合并行计算机的思想,设计有效的并行结构用于BP神经网络的训练,加速其学习速度及提高精度,更有效地找到全局最小。并行机可分为SIMD和MIMD系统,在并行机发展的初期,SIMD类型并行机对其发展起到了重要的推动作用,但随着微处理芯片技术的发展,90年代以后,单处理机性能得到了极大地提高,也因此导致并行机朝MIMD方向发展,SIMD并行机基本退出了历史舞台。然而就结构上讲,两者各有优缺点,可结合两者的优点设计新的并行结构以解决某些特定问题。本文对神经网络的历史概况、基本原理以及神经网络的应用领域进行了简单的介绍,并详细叙述了各类神经网络模型、神经网络的学习规则。介绍了BP神经网络的基本原理,分析了算法推导过程及其优缺点,针对BP网络的缺陷综述了各种有效的改进算法。对目前流行的并行机作了一些介绍,详细分析了各种并行结构的组成及特点,并对其进行比较。阐述了并行思想在很多领域的广泛应用。本文结合新的并行结构模型对BP网络进行优化,提出一种基于并行策略的算法,使多个结构相同的网络同时并行参与训练,从而加快收敛速度,通过在串行机上进行模拟实验和其它BP改进算法进行比较,并将其用于函数逼近,提高了训练速度和精度,验证了该算法的有效性。
其他文献
学位
视觉导航是智能车辆导航的一项关键技术,本文针对智能车辆视觉导航系统的研究,提出了基于运动车辆建模与跟踪技术研究这一课题。论文首先介绍了课题的研究背景、研究意义、当
随着信息共享的普及,各种应用软件相继出现。软件功能越来越多样,代码的控制结构也越来越复杂。随之而来的安全问题也引起社会各方面的广泛关注。为了维护信息系统的安全,高
近年来,门户系统(网站)建设已经成为一种趋势,具有长远眼光的企业纷纷开始建设自己的企业门户。但门户系统的建设是一项覆盖面广的、大型复杂的系统工程,它与传统的公共信息
网格(Grid)技术是近年来国际上兴起的一种重要信息技术,其目的是实现地理上广泛分布的大量异构资源的共享。资源调度是网格研究的重要内容之一,它决定了如何合理地将任务分配
曲线曲面的拟合问题在理论研究和实际应用中常常遇到。模式识别和计算机视觉中,图形(图像)数据的模型拟合是一项基本的工作。在工程、统计和计算机图形等方面也有着广泛的应用
传统的粗糙集理论是一种处理不完备、不完整数据的智能计算方法。传统的模糊集理论也是一种重要的处理不精确,不确定信息的数学工具。模糊粗糙集是模糊集理论和粗糙集理论的
随着Internet的发展,网络资源作为一种新兴的资源正快速增长。网络资源广义上可包括电子文档、电子视频、网络信息、应用程序、网络服务等,对于部分可复制的网络资源,如电子
随着数据库技术的不断发展和其在军事、政府、金融等部门的广泛应用,数据库的安全问题越来越受到人们的高度重视。传统数据库系统提供的安全特性仅能够满足一般的应用要求而
在优先考虑工程安全,供电可靠性的条件下,梯级水库水电站的优化调度,充分发挥水资源系统的除害兴利作用,使总体经济效益最大。梯级水库调度问题是一个复杂的问题,正确、合理