基于改进AGP算法的神经网络结构优化研究

来源 :广西师范学院 | 被引量 : 0次 | 上传用户:wangtao7897
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着社会的不断进步,工业快速的发展,使得神经网络在生活中许多领域得到了广泛的应用,不过在很多领域,神经网络的应用并不能完全发挥网络的性能,比如说,网络不能得到很好的泛化,拟合精度低,收敛速度慢,训练时间比较长,误差值偏大。近年来,人们发现自适应调整网络结构影响着整个网络的性能和效率,所以优化神经网络结构是当前的一个亟待解决的问题。为此科学家们提出了一些新算法和改进算法来最大化的发挥网络性能。针对以上的不足,本文基于张米娜的AGP算法提出了改进AGP算法,新型剪枝算法以及新型增长算法。其中新型剪枝算法采用基于贡献值与输出连接的权重来修剪节点,新型增长算法就是采用基于贡献值的方差相关度差异程度对节点进行增长,而改进AGP算法就是先用新型剪枝算法进行精简结构,如果不能达到网络性能要求,那么就采用新型增长算法进行增加节点,如果还不能满足要求,这时网络训练就会迭代,直到满足网络的性能要求。为了检验本文提出的算法是否有效,本文对每个算法都跟其他算法做了对比实验仿真,并且将AGP算法应用到了交通运输能力以及国内旅游总产值预测方面,仿真实验表明本文提出的新算法能够在实际应用中获得了预期的效果,在训练时间、收敛速度、泛化能力以及误差等方面显示了其优越性。本文的研究工作主要有以下几点:第一,本文系统的描述了剪枝算法、构造法以及混合算法的国内外研究现状以及一些不足,并对每个算法的潜在应用以及分类作了详细介绍。第二,对神经网络基础知识进行了简单的介绍(包括简介、发展史、结构特征以及应用),分析了BP算法,并阐述了BP的核心思想。第三,分析了影响网络性能的因素,包括训练时间、收敛速度、泛化能力以及误差等方面。第四,基于以上不足,提出了一种基于贡献值与输出连接的权重来修剪节点的新型剪枝算法,提高了修剪的效率的同时,也保证了网络的性能。本文提出了新型增长算法,它是基于贡献值的方差相关度,直接复制那些相关度高的节点,不但使得网络收敛速度加快,而且也防止会出现过度拟合现象,并且做了相关对比实验,取得了良好的效果。第五,提出改进AGP算法,按照某些规则融合使用新型修建算法和新型增长算法进行优化神经网络结构,并用该算法对非线性函数进行了逼近,实验结果比较满意。第六,采用改进AGP算法进行交通运输能力以及国内旅游总产值方面的预测,做了对比实验,分析并比较了与AGP算法在解决问题时的优势。
其他文献
仿生智能计算是一类模拟自然界生物、生态等系统中“优胜劣汰”行为的模型和算法,具有自适应、自组织、自学习等特点,能够解决传统计算方法难于解决的各种复杂问题。仿生智能计
人类基因组计划目标是完成人类染色体的全部 DNA的测序,这对于治疗遗传病有着重要的意义。现有的技术不可能直接连续测序超过几百个碱基的片段,只能使用散弹枪法获得并测序大
随着云计算的发展,由欺诈行为驱动的窃取云资源和云服务的行为日趋严重,导致云计算资源的拥有者、提供商与被提供服务的用户间出现信任危机,此种危机给云计算的应用与发展带
随着Web2.0和互联网的飞速发展,社交网络呈现爆发式增长。微博作为社交网络的一大重要代表逐渐深入人心,成为网民上网的主要活动之一。正是由于微博具有便捷性、高速度、广泛性
自然语言处理系统的开发在当前数据库智能领域中一直占据着重要地位,该类系统开发的主要目的是使所操作的计算机自主了解用户的输入请求,自动对查询目标进行处置。如何开发先进
信息技术的高速发展改变了人们生活习惯,近年来,人们对基于位置服务的需求越来越强烈。GPS技术的成熟应用虽然能够满足人们对室外定位的各种需求,然而由于GPS信号穿透能力差无法
众多无线传感器网络的应用中,用户常常对某个目标区域内的感知数据感兴趣。例如,用户为了获得一片植物种植区域内的温度或湿度等相关数据。目前,相关的无线传感器网络区域查
数据挖掘是一个多学科交叉融合的前沿学科,是信息技术发展过程中的重要成果之一,其理论研究和实际应用都已被广泛关注。关联规则挖掘是数据挖掘中的一项重要任务,用于发现大量数
近几年来,随着Web服务技术的发展,服务组合已被工业界、学术界普遍认为是Web服务的重要支撑技术之一。与此同时,由于Web服务的广泛使用,其领域内也出现了规模较大的组合服务。因
近些年以来,计算机科学技术日益发展,并被应用到各行各业之中。工作流技术发展自对办公自动化领域的研究,属于计算机科学技术一类,工作流官方管理联盟对工作流的定义是:在整个工