神经网络协同学习理论及应用研究

来源 :浙江大学 | 被引量 : 0次 | 上传用户:zqqzqq
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在神经科学中,研究者相信记忆主要存储于突触强度而学习是改变突触强度的过程。突触强度的改变由神经系统的突触可塑性机制控制。神经科学领域已经积累了关于突触可塑性的大量生理实验和生物建模研究。神经机制中的突触可塑性对应了人工神经网络的权重学习规则。在机器学习领域,连接权重学习方法使人工神经网络具备强大的学习能力来解决各类实际工程应用问题。独立于突触强度变化,最近的神经生理实验结果表明单个神经元同样具有改变自身激活性来匹配突触输入分布的调整能力。文献中这种单个神经元的调整能力被称为神经元内在可塑性。在数学建模中,内在可塑性和神经单元激活函数的调整相关。研究者已经基于一定的理论假设来建立内在可塑性学习规则,该假设认为该机制的调整目标是维持平稳平均输出响应的同时最大化神经元输入输出之间的互信息。受到这种新的可塑性机制的启发,作者在本文中也提出了一种新颖的基于神经元放电尖峰的内在可塑性规则。在单独研究内在可塑性的基础上,作者将内在可塑性机制和传统研究中的突触可塑性机制进行了结合。在生物或人工学习系统中这两种可塑性机制的结合被称为协同学习。在本文中作者首先分别阐述了突触可塑性和内在可塑性机制,进而展示协同学习方法在计算神经建模以及机器学习中的发挥作用。在计算神经科学中,作者研究了内在可塑性机制和突触可塑性相结合的计算神经模型,该模型被用来建模视觉生物实验现象,研究结果表明了协同学习在神经建模中发挥的作用。在机器学习中,参照突触可塑性机制启发了人工神经网络的权重学习算法,作者通过引入激活函数调整规则的方式将内在可塑性引入了人工神经网络。在该研究工作中,作者对权重调整(突触可塑性)和激活函数调整(内在可塑性)都采用了基于信息论的学习方法。该研究结果表明了协同学习对于提升人工神经网络性能具有良好的作用。本文从神经科学中的生物建模出发,以信息科学中的工程应用技术为落脚点,在一定程度上搭建了大脑生物神经机制与仿脑信息处理技术之间的桥梁。
其他文献
微机械陀螺是一种基于硅微机械加工技术的测试角速度或者角位移的惯性传感器,与传统的机械转子式陀螺、光学陀螺相比,具有体积小、功耗低、可靠性高、可批量生产等优点,在民
ERP即企业资源计划,它是目前全球广泛使用的管理信息系统,在二十一世纪,我国吸引大量的外资,我国的中小企业也加入到国际竞争中来,使它们面临着更加严峻和激烈的竞争,在这种
次级结构参数对高温超导直线感应电机电磁特性具有重要的影响。分别对次级导电板的材料和厚度对高温超导直线感应电机电磁特性的影响进行研究分析。首先复合次级结构包括导电
目前,在飞机铆接装配领域,自动化铆接方式已逐步取代传统的人工气动铆接。铆接技术与设备直接影响飞机组部件的铆接装配质量,进而影响飞机的安全可靠性和疲劳寿命。作为大型
<正>随着肿瘤放疗患者日益增多,加速器运作时间增长,在治疗过程中出现故障联锁的频率随之增加[1]。本研究对在临床治疗过程中加速器出现的常见联锁进行分析处理总结,以期操作
中国作为超级人口大国却实现了经济社会飞速发展,印度的经济改革也赶不上中国的步伐。中国经历了20世纪80年代快速的市场化改革,成为一个经济发展方面重要的范例。我们不能单
青霉素过敏发生低血压、休克、肺水肿、皮疹、腹痛等表现多见,而致心脏不良反应发生较少,因此一旦出现,因认识不足,处理不当,致心脏严重病变者偶有发生,值得重视。笔者在1996年12月至1999年6月
近几年来,随着全国各地高层建筑的发展,桩基础也随之增加,挖孔桩由于其承载力高、沉降量小、施工不需要大型机具设备、施工操作工艺简单、无环境污染等特点得到广泛应用,尤其
弹簧模型·是高考考查的热点,涉及弹簧膜型中的临界分离点问题也是同学们学习时的难点。现对弹簧模型中分离点的几种情景进行剖析,并得出一些有价值的结论,希望对同学们的复习备考有所帮助。  如图1甲、乙、丙所示,轻质弹簧一端固定在墙(地上),另一端系在物块A上,物块A和B不粘连,用力F推物块B至弹簧压缩状态后撤去力F,物塊A、B向右(斜向上、向上)运动,分析物块A和B的分离点。力F后,系统将以O点为中心,
本空分系统运行模式节能优化研究立足企业全局系统,根据生产实际情况,针对安阳化学工业集团有限责任公司现有年产12万吨的甲胺/DMF装置配套气化炉送氧4000空分装置,充分考虑