两类神经网络的学习算法收敛性研究

来源 :广西大学 | 被引量 : 0次 | 上传用户:landgale527
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
前馈神经网络是目前应用最广泛的一种神经网络模型,模糊感知器和Ridge Polynomial神经网络就是这样的两类前馈神经网络。本文对这两类神经网络的学习算法进行研究,分析各自算法的收敛性问题。   本研究将神经网络的异步梯度算法应用到Ridge Polynomial神经网络的训练中,对网络误差函数及学习方法进行分析,给出训练过程中误差函数的单调性定理。在证明单调性成立的基础上,进一步分析算法的收敛性并给出证明,最后的仿真实验验证了理论分析的正确性。传统的梯度算法存在收敛速度过慢且易陷入局部极小点的缺点,动量项是解决该问题的有效方法之一。将动量项加入到梯度算法中,用改进后的异步梯度算法来训练Ridge Polynomial神经网络,有效提高了网络的收敛速度。并且从理论上分析了改进后算法的单调性和收敛性,最后,仿真对比实验结果也说明带动量项异步梯度算法是高效的。提出了一种训练最大-乘积型的模糊感知器的学习算法,给出了训练样本模糊可分的充要条件,并在训练样本模糊可分的条件下分析了算法的有限收敛性,仿真实验也有效的验证了理论结果。
其他文献
随着数据爆炸的时代到来,海量数据存储的问题也随之而来。HDFS(Hadoop Distributed File System)作为主流的开源云计算系统Hadoop的基础构件之一,由于其低成本、高度容错、支持
随着我国国民生活水平的提高,对于猪肉品质的要求也在不断的提高。影响猪肉品质的因素有很多,在实际检测过程中存在各种各样条件的限制。如何实现对生猪肉质低成本、快速、可靠
软件保护技术是保护软件版权信息的一种技术,它可以增加软件被盗取的难度,识别软件是否被非法复制。软件特征是从软件本身提取出软件的特有属性,作为识别该软件的唯一标记。
随着互联网技术的飞速发展,网络中蕴藏的有价值信息愈来愈多。但各站点提供的信息在数量及质量上都存在巨大的差异。这给人们选取高质量信息带来了困难。搜索引擎技术可以对
云计算所面向的用户群体越来越广泛,需要处理的任务量和数据量非常庞大,使系统时刻处于海量任务处理的忙碌状态,因此如何进行合理的任务调度成为云计算研究领域的核心问题。云计
现代汉语中词语主要分为实词和虚词两大类,其中虚词包含副词、介词、连词、语气词、方位词、助词等。虚词不能充当句法成分,但用法比较复杂多样。同一个虚词在不同的上下文中
视频动态目标检测技术,旨在提取出视频序列中的运动目标,是计算机视觉领域的基础。快速而精确的提取出运动目标,是进行后续研究的前提,比如目标分类、视频跟踪、行为识别等。
随着嵌入式计算、网络通信、海量数据处理等技术的高速发展,感控、计算和通信能力深度嵌入到物理设备中,从而产生了信息物理融合系统(Cyber-PhysicalSystems, CPS)。由于CPS的应
随着计算机科学的广泛应用和互联网技术的快速发展,互联网给我们的生活带来方便的同时,其暴露出来的安全问题也给人们造成了巨大的损失。传统的安全防御技术已无法驾驭复杂多
由于Web应用程序有着诸如系统开发、维护和升级的经济性、提供一致的用户界面、很强的开放性、结构易于扩展性、很强的信息系统集成性和灵活的信息交流与信息发布服务等优点,