Hopfield神经网络的加速算法研究

来源 :山东大学 | 被引量 : 0次 | 上传用户:erkonga
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
人工神经网络从着手研究到现在,已有五十多年的发展史.虽然几经坎坷,但随着众多学者的不懈努力,不但在理论上为神经网络的发展打下了坚实的基础,而且在信号处理、计算机视觉、模式识别、专家系统与气象预测等许多领域有着广泛的应用.用神经网络来解决组合优化问题一直都是神经网络研究领域的一个热点话题.研究其相关应用及算法优化,无论对神经网络理论的发展,还是对神经网络技术的实际应用,都具有特别重要的意义.Hopfield神经网络是当前研究最为广泛的一种人工神经网络,并已被人们应用联想记忆和解决优化问题中.但是在实际应用中,这种经典的神经网络存在着诸多缺陷,其中之一就是随着所解决问题规模的增大,Hopfield网络的收敛速度会大大降低.基于以上问题,该文做了如下两方面的工作:对于前向神经网络(如BP网络),目前已有很多训练或学习算法,其中基于梯度下降的算法是普遍采用的方法之一.而在网络学习过程中,尤其在训练样本很大的时候,网络的收敛速度减慢.基于此,很多学者已经提出了诸多算法来加速BP网络的收敛,如附加冲量法、自适应参数法等.该文的前一部分,将通过推导,证明在Hopfield神经网络中,网络输出的增加值相对于网络能量函数的变化过程来说也是一个梯度下降的过程.该文的后半部分提出了一种基于梯度下降的算法来加速Hopfield神经网络的收敛过程.为了达到这个目的,引入了步长参数,它根据能量函数的梯度信息而进行适当的调整.整个算法由两个阶段组成,分别是当网络中能量函数处于平缓区时的加速阶段和当跳过一个能量极小值后的回溯阶段.文中还针对算法中的各项参数进行了讨论,以期望对算法的优化达到最佳效果.最后,文中用计算机语言实现了一个Hopfield网络的仿真程序.并将文中所提出的算法应用到一些经典组合优化问题上,所得到的结果证明此加速算法是有效的.
其他文献
在电子商务推荐系统的实施和应用过程中,出现了一些关于系统结构和推荐过程的普遍问题,如:推荐系统的可扩展性差,二次开发代价大;生成推荐的过程反复进行等.该文从过程模型、
生物计算(或生物信息学)是一门研究如何将计算方法(计算机科技)用于解决生物学问题,特别是分子生物学问题的新兴的前沿学科。生命的基本构成是蛋白质,而蛋白质又由20种不同的
人脸检测的目标是从图象中判断有无人脸,如果有的话,输出人脸所在位置和范围.它作为一个重要的课题成为许多研究者的研究内容.人们觉得它如此重要是因为它在许多领域有着重大
学位
随着后PC时代的到来,嵌入式设备已经广泛地应用于办公自动化、消费、通信、汽车、工业和军事等领域,像手机、机顶盒、PDA、车载GPS系统、网络冰箱等新兴的嵌入式设备层出不穷。
像任何电力发电机一样,电力网络通过他们终端机上的电压调节器给仪器使用者提供能量。 很明显,电能质量取决于在发送点上的电压。这一个电压通常要承受许多干扰,这些干扰主要
日常生活中很多数据都使用分层结构来进行组织,例如图书馆的档案分类等.LDAP目录是将对象信息按照一定顺序(反映了对象的内容)组织起来的分层的列表(listing).分布式的目录由
该文的研究,其创新点可以概括为:1、在研究入侵特征的分析和提取的基础上,研究出一种性能良好的入侵特征形式化描述语言ISITL,并对其描述的语法、语义、相应的逻辑系统以及描
随着计算机图形学的高速发展,实时渲染技术在军事、娱乐、医学等众多领域上扮演着越来越重要的角色。在实时渲染技术中,渲染效果和渲染速度是一对不可兼得的矛盾体,如何有着
Web服务是一个崭新的分布式计算模型,它由一系列相关技术和标准所组成:XML、SOAP、WSDL和UDDI。其中,XML提供数据的描述,SOAP负责Web服务调用,WSDL负责Web服务描述,而UDDI则负责Web