基于敏感性的Madaline神经网络结构自适应学习算法研究

来源 :南京信息工程大学 | 被引量 : 0次 | 上传用户:zhuzi1976
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着机器学习的快速发展,人工神经网络再次引起广大研究人员关注,改善前向神经网络的学习算法一直是该领域的研究热点与难点。本文将从Madaline神经网络(由若干Adaline神经元组成)结构变化对输出的影响(即结构敏感)性角度入手,对Madaline神经网络的结构敏感性计算进行详细推导,以期用网络结构敏感性研究结论来指导Madaline网络的学习,并结合Madaline神经网络的权参数自适应学习算法打造出能使性能满足学习任务且能够优化网络结构的Madaline网络结构自适应结构学习机制。本文的主要研究内容如下:(1)提出了基于网络结构变化下的Madaline神经网络结构敏感性计算算法。网络结构规模变小或变大都会一定程度上影响网络的输出结果,因此,本文提出了基于网络结构的变化下的网络结构敏感性,并推导出计算过程。(2)提出了更为合理的、基于敏感性的Madaline神经网络结构裁剪算法。在本文Madaline网络结构敏感性计算理论的基础上,通过直接计算因裁剪网络结构所导致的网络输出变化,以此来更真实地度量网络因结构裁剪而导致的性能损失,并进一步来指导网络中神经元的裁剪。(3)提出了更为合理的、基于敏感性的Madaline神经网络结构扩展算法。本文的结构扩展算法要求在每次给训练后的网络增加一个隐层节点时,都必须遵循最小扰动原则,通过网络结构的敏感性选出使得网络输出影响小网络结构。(4)提出了基于敏感性的Madaline神经网络结构自适应算法。该算法在网络的学习机制中融入了本文的网络结构扩展算法和网络结构裁剪算法,自适应地实现学习目标,在性能满足学习任务的同时,可优化网络的组成结构,从而提高网络的泛化性能。
其他文献
伴随气温不断回升,很多人受春困困扰,容易疲乏打盹儿,提不起精神。春困会使人反应迟钝、精力不集中、判断能力下降,如果在工作岗位上犯困,则可能使自己和他人的人身安全受到
铌酸锂晶体因其精良的光、电性质,被广泛应用于集成光学、光通讯等众多领域,是制造微波技术、全息记录介质、相位调解器和红外探测器等器件的重要材料。随着信息时代的发展以及通讯技术的革新,相关行业对信息材料有更高的需求,纯铌酸锂晶体及其掺杂铌酸锂晶体的性能研究,成为全息存储材料领域的热点。对比纯铌酸锂晶体,某些掺杂改善了铌酸锂晶体的光折变和抗光损伤性能,并在掺杂晶体中实现了非挥发性存储,使得存储的信息非易
虽冠心病每年死亡率已明显降低,但猝死仍为流行病学一重要问题。本文主要温习致命性心电失常的机理及预防。过去对狰死的研究,多集中于控制室性异位搏动,均属推断性者。本文
<正>陈子奋教导我:"古人书从印入,印从书出,刻印正所以学书,不学书而印能精者殊难。"学篆与学印犹如划船,务须左右双桨齐力。篆书形成风格,用之刻印,则有水到渠成之功,其朱文
为了提高ТЭП70型内燃机车的防火灾能力 ,对其原有的的火灾信号系统进行了加装改造 ,改造后的系统不仅增加了火灾警报器 ,而且还能指明具体的火灾地点。文内给出了该系统的
<正> 现代企业制度的建立,为企业内部审计工作提出了新的要求。本文拟对现代企业制度的内审工作进行初步探讨。 一、现代企业制度的要求 现代企业制度的特征是“产权明晰,权
道教是中国土生土长的宗教,是经过长期的历史发展而形成的,深深扎根于中华传统文化的沃土之中,广泛吸收了诸子百家的精华思想,对中华文化的各个层面产生了深远影响。道教起源
为优化浒苔多糖的提取工艺条件,采用超声辅助提取技术提取浒苔多糖,考察3个变量(超声温度、超声时间和液料比)对浒苔多糖收率的影响,并通过响应面设计法确定浒苔多糖超声辅助
为了追求国家安定、社会发展,董仲舒从促使政治进步的角度出发,提出了“天不变,道亦不变”的大一统理论与“三统”学说。这些学说在汉代史学观念更新方面产生了积极的影响。
According to the analysis of the climate materials including the topographic map in 1975, the TM and CBERS satellite remote sensing materials from the 1980s to