蒙特卡洛方法神经网络的激活函数研究及应用

来源 :兰州大学 | 被引量 : 12次 | 上传用户:uxc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来人工神经网络发展迅速,成为人工智能重要的研究方向之一。激活函数作为人工神经网络的重要组成部分,也得到广泛的关注。科研人员在科学研究与应用实践中不断改进现有的激活函数,寻找新的激活函数,从而提高人工神经网络性能。目前对于人工神经网络的激活函数,往往选择单一的形式,使用组合激活函数的情况较少,相关研究也比较缺乏。对于不同的激活函数,其非线性表达能力不同,表现在人工神经网络的精度和训练的时间存在差异。因而可以尝试结合不同激活函数各自的非线性优势提升人工神经网络的性能。鉴于此,本文开展了组合激活函数的研究,基于蒙特卡洛方法人工神经网络,利用其网络构造简单和训练灵活的特点,结合人工神经网络常见的预测、回归和分类问题,通过电力负荷预测、心电图导联重建和乳腺癌分类三个实验,对比分析了Sigmoid、Tanh、Gauss、Softplus、ReLU五种单一形式的激活函数,及其等比例组合而成的激活函数对人工神经网络性能的影响。在此基础上,本文利用遗传算法良好的全局搜索能力,给出了一种优化的组合激活函数,并在上述的三个实验中与其他六种激活函数进行了对比分析。实验结果表明,按照遗传算法优化的组合激活函数相比单一形式的激活函数对于人工神经网络在电力负荷预测、心电图导联重建和乳腺癌分类问题的精度都有一定程度的提升。
其他文献
随着信息技术和计算机网络技术的迅速发展,数字化产品越来越多,随之而来的数字化产品的版权保护和所有权认证问题必须得到很好的解决。从而数字水印技术应运而生。论文首先简
学习型城市的建设要以学习型城区的建设为基础,有效整合各类教育资源是推动学习型城区建设的重要途径。上海市杨浦区探索出学习型城区建设资源整合的做法、载体带来提升学习
目的:探讨周仲瑛教授辨治便秘的临证经验,为名老中医经验传承提供较为客观的结果与结论,从而进一步指导临床与教学。方法:收集1986年至2013年间周仲瑛教授诊治便秘的病案,按
建立了一种具有节点功能区分的WDM多波长光网络模型,根据节点功能将其分为A、B两类,在此基础上提出了波长等价弧和等价网络等概念,并根据此类多波长光网络模型的节点和网络结构特点以及相应的选路和波长分配策略,提出了一种基于节点功能的多波长光网络分布式路由与波长分配算法——BONF算法,证明了算法的可行性,分析了算法的计算复杂度,比较了此算法与其它同类型算法的区别,指出了BONF算法的优点和不足。
通过计算TY5S型接触网作业车的质量分布及重心,得出整车的重心位置及所需的配重,通过调整配重,提高了整车走行的稳定性和牵引性能。 By calculating the mass distribution
研究中华鲱鲇繁殖生物学,为中华鲱鲇的人工繁殖及种质资源保护提供依据。2013-2015年在澜沧江中下游景临桥江段、糯扎渡江段、景洪江段及支流补远江勐仑江段采集中华鲱鲇标本
分析了最大比合并(MRC)二维Rake(2D-Rake)接收机,在相关频率选择性Nakagami衰落环境中的平均误比特率(BER)特性。推导了在任意衰落环境中,存在多个共信道干扰的多天线多Rake抽头接收机的信干噪比(SINR)和BER的闭式表达式。文中还进一步说明了角度扩展、天线间隔、空间和时间分集阶数、平均到达角度、平均路径强度以及衰落程度对2D-Rake接收机BER性能的影响。
社区共学养老是应对人口老龄化社会问题的新思维与新探索,在持续十年研究社区学习共同体的基础上,把社区学习共同体建设聚焦到养老问题,将开启养老事业的崭新篇章。社区共学养老
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
【正】 隐喻是一种饶有趣味的语言现象,在中国文化中源远流长。历代散文和诗歌中“比、兴”两种手法均运用甚广,对隐喻的研究也不乏其人,如战国时期著名哲学家惠施就说过,隐