基于构造型前馈神经网络的函数逼近与应用

被引量 : 0次 | 上传用户:zhang55420
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
众所周知,人工神经网络具有很好的函数逼近能力,但传统的学习型神经网络存在许多缺陷,如对初始权重非常敏感,极易收敛于局部极小;往往停滞于误差梯度曲面的平坦区,收敛缓慢甚至不能收敛;过拟合与过训练;网络隐含节点数不确定等。针对此,本文主要研究近年来发展起来的单隐层构造型前馈神经网络的函数逼近能力及其在EEG信号预测、长株潭地区环境数据预测和股市数据挖掘中的应用,以及构造型前馈神经网络与学习型前馈神经网络在上述领域的应用比较。首先,在B. Llanas和F.J.Sainz的工作的启发下,将前馈神经网络的激活函数换成Gaussian函数,得到构造岭函数型Gaussian前馈神经网络,证明了具有单隐层n+1个神经元的神经网络,能精确插值n+1个样本,然后,根据样本值构造出Gaussian型前馈神经网络的内部和外部权值,证明了它能以任意精度近似地插值这些样本,并给出了其误差的上界。进一步,证明了这种构造型Gaussian型前馈神经网络能以任意精度一致逼近闭区间上的任意连续函数,并给出了其误差的上界。同时将上述结论推广到了多维的情况。并通过数值实验,验证了上述结论的正确性和有效性。由于上述造岭函数型Gaussian前馈神经网络在推广到多维的情况时的复杂性和具体操作上的困难性。将构造岭函数型Gaussian前馈神经网络的激活函数换成径向基函数(RBF),得到构造型前馈RBF神经网络。针对这种径向基函数型前馈单隐层神经网络,根据样本值直接构造出多维(包含一维)情况下的内部和外部权值,并给出了相应的形状参数,证明了它能以任意精度近似地插值这些样本,并给出了其误差的上界。进一步,证明了这种构造型RBF前馈单隐层神经网络能以任意精度一致逼近闭区间上的任意连续函数,并给出了其误差的上界。通过数值实验,验证了上述结论的正确性和有效性。进一步,将前馈神经网络的激活函数换成小波函数,得到小波前馈神经网络,证明了这种具有n+1单隐层个神经元的神经网络,能精确插值n+1个样本,同样根据样本值构造它的内部和外部权值,证明了这种构造型小波前馈神经网络能以任意精度近似地插值这些样本。进一步,证明了它能以任意精度一致逼近闭区间上的任意连续函数。同时将上述结论推广到了多维的情况。并通过数值实验,验证了上述结论的正确性和有效性。对于多维情况,采用比以前更简洁、更有效的构造方法,得到另一种构造型前馈小波径向基神经网络,同样证明了这种具有n+1单隐层个神经元的小波径向基神经网络,能精确插值n+1个多维样本,进一步,证明了它能以任意精度一致逼近闭区域上任意多维连续函数。并通过Matlab编程和数值实验,验证了这种网络操作上更简洁,收敛速度更快。将上述小波径向基神经网络推广到L2(R)RBF神经网络,对于多维数据与连续函数,证明了与小波神经网络同样的结论。并和CRBF网络、BP网络、ELM、SVM比较起来,通过8个实验进一步验证了L2RNNs具有更快的收敛速度和更好的泛化性能。将上述构造型sigmoid神经网络应用到EEG信号预测、并和学习型BP神经网络的预测方法和结果作对比,在样本数量不至于出现灾难维的情况下,构造型sigmoid神经网络体现出了明显的优越性。将学习型BP神经网络和构造型小波神经网络应用到长株潭地区环境数据预测中,再一次验证了,在小样本环境的预测中,构造型小波神经网络体现了其直接性、简洁性和稳定性。在股市数据挖掘中,将其中一部分数据作为样本,同时用小波分析、学习型BP神经网络和构造型小波神经网络,构造模型和算法。另一部分数据作为对模型的验证数据,检验相应的模型和网络。进一步验证了单隐层构造型前馈神经网络,在样本数量非海量的情况下的直接性、简洁性和稳定性。
其他文献
为辽宁省鸡白痢净化,提供最佳检验时机。我站历经一年的时间,用连续6年净化鸡场,所孵化的鸡雏140只。应用平板凝集实验,琼脂扩散试验等检验方法。模拟规模饲养场的饲养条件,
<正>阻塞性睡眠呼吸暂停低通气综合征(OSAHS)是一种比较常见的睡眠疾病,由于可以引发多种全身性疾病,尤其是中重度OSAHS患者心脑血管并发症的危险性及死亡率均显著提高,是目
目的探讨注射用双黄连(冻干)所致不良反应的一般规律和特点,推动临床合理用药。方法我院2009年10月~2010年11月共有711例患者使用注射用双黄连(冻干),采用回顾性研究的方法,对
第二次世界大战结束之后,战胜国在对次要战争罪犯进行审判的过程中,部分案例是建立在直接或间接行使普遍管辖权的基础之上的。冷战爆发之后,经过一段时间的"沉寂",到了20世纪
《红楼梦》的原作者与续书者均爱好围棋,直接或间接地反映在小说创作之中。今人著述对《红楼梦》所写棋事、棋理略有涉及,为全面探求围棋文化提供了研究基础,并可从三方面加
《伤逝》一直是鲁迅研究学界探讨鲁迅妇女观的重要范本。如果能够超越现有的从“小说者说”出发的研究方法,正视其存在的叙事破绽及意图悖谬之谜,将其置放于从古典到现代版的
中国萤石资源丰富,分布广泛,但近年来其开发利用存在生产企业规模较小、产品单一、恶性无序竞争突出、污染严重、低端产品生产过剩等问题,随着国家政策和行业产业结构的调整,
只要是工程项目,就存在进度问题。只要有进度问题,就存在进度控制问题。既然有项目进度控制,就可能存在优化的可能。随着我国电信最近体制改革重组,为运营工T支撑系统软件的
在医学微生物学教学改革实践中,对传统讲授式教学与PBL教学进行比较。结果显示PBL法教学组学生的分析题成绩、理论成绩、总成绩均比传统讲授教学组好,差异有高度显著性(P<0.0