采用分数阶动量的卷积神经网络随机梯度下降法

来源 :模式识别与人工智能 | 被引量 : 0次 | 上传用户：yaya_tush

【摘要】

：

针对随机梯度下降法可能会收敛到局部最优的问题,文中提出采用分数阶动量的随机梯度下降法,提高卷积神经网络的识别精度和学习收敛速度.结合基于动量的随机梯度下降法和分数

【作者】

：

阚涛高哲杨闯

【机构】

：

辽宁大学数学院,辽宁大学轻型产业学院

【出处】

：

模式识别与人工智能

【发表日期】

：

2020年6期

【关键词】

：

卷积神经网络分数阶差分随机梯度下降 Convolutional Neural NetworkFractional-Order DifferenceStoch

【基金项目】

：

辽宁省自然科学基金项目(No.20180520009),兴辽英才计划项目(No.XLYC1807229),中国博士后基金项目(No.2019 M651206),辽宁大学科学研究项目(No.LDGY201920)资助

下载到本地 , 更方便阅读

下载此文赞助VIP

声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架

论文部分内容阅读

针对随机梯度下降法可能会收敛到局部最优的问题,文中提出采用分数阶动量的随机梯度下降法,提高卷积神经网络的识别精度和学习收敛速度.结合基于动量的随机梯度下降法和分数阶差分运算,改进参数更新方法,讨论分数阶阶次对网络参数训练效果的影响,给出阶次调整方法.在MNIST、CIFAR-10数据集上的实验表明,文中方法可以提高卷积神经网络的识别精度和学习收敛速度.

其他文献

超宽带Er^3＋-Tm^3＋共掺石英光纤放大器串联特性分析

在不影响Er^3＋-Tm^3＋共掺石英光纤超宽带放大特性的前提下，提出了利用串联的方式提高系统功率增益的方法。并模拟仿真了两级串联此种石英光纤的工作特性。仿真结果表明：两级串联

期刊

光纤通信Er^3+-Tm^3+共掺超宽带光纤放大器宽带光纤放大器Er^3+-Tm^3+共掺光纤optical fiber communication

大学文化建设评价的思想方法

结合大学文化建设这一软系统的特点,提出了"大学文化是否体现‘服务国家发展、推动社会进步’的使命,学校的办学行为与师生员工的实际行动是否体现大学文化的核心价值,学校发

期刊

大学文化建设结构性评价功能性评价耦合度评价思想方法

国省干线公路养护工程施工管理方案创新研究

随着我国交通行业的不断发展，人们对国省干线公路养护的重视程度不断提升，公路养护能够提高公路质量以及服务水平，但是目前国省干线公路养护工程施工管理仍然存在一些问题，因此需

期刊

国省干线公路养护管理方案创新

基于信息熵的形式背景属性约简

属性重要度和属性约简都是形式概念分析研究中的关注重点.通过信息粒的角度,文中提出基于信息熵研究形式背景的属性约简的一些方法.首先,给出形式背景的信息熵、条件熵及互信

期刊

形式背景信息熵条件熵有限条件熵属性约简Formal ContextInformation EntropyConditional EntropyLimi

变电站电气一次设计存在缺陷及改进措施

经济与社会的发展对电力系统提出了全新的要求，变电站电气一次设计也势必要迈向全新的发展阶段。然而，目前来看，变电站电气一次设计依然存在缺陷和问题。文章首先分析了电气一次

期刊

变电站电气一次设计缺陷问题改进措施

厨房收纳空间设计研究

随着人们生活水平的不断提高,厨房不再是单纯满足于烹饪要求的功能空间,已转变为住宅环境中功能最多、最复杂、使用最频繁的区域,是人们享受美食、休闲娱乐、放松身心的场所

学位

收纳空间设计厨房橱柜

史星文作品

史星文,一九五七年农历端午生。书法作品二十余次入选中国书协举办的全国展,五次获全国书法大赛一等奖。散文作品曾在北京大学获奖。先后被评为“陕西十杰青年书法家”“陕西

期刊

中国书法家协会中国书协书法作品《西安晚报》书法大赛散文作品德艺双馨

EPON系统中的组播技术

文章首先讨论了在以太网无源光网络（EPON）系统上实现组播的现实意义，然后在对现有的二层组播协议分析与比较的基础上，提出采用IGMP Snooping（英特网组管理协议侦听）在EPON上实现组

期刊

以太网无源光网络组播英特网组管理协议EPON multieast IGMP

多方合力纾解民营企业融资难

日前，中国人民银行行长易纲在出席“2019中国发展高层论坛”时，对各方关注的金融支持民营企业发展问题再次发声。$$易纲表示，2018年，金融领域各项工作扎实推进，在精准支持经济重点

报纸

《西部学刊》2020年选题方向

《西部学刊》立足西部,面向全国学术界,以人文社会科学诸学科建设中的问题意识为牵引,坚持基础理论研究和现实应用研究并重,注重学术研究中的重点、热点、难点问题,热忱欢迎

期刊

选题方向人文社会科学现实应用学术界同仁学术研究学科建设基础理论研究学刊

采用分数阶动量的卷积神经网络随机梯度下降法

其他学术论文