【摘 要】
：
神经网络主导了现代机器学习领域,但是他们的训练和成功仍然受到超参数经验选择的敏感影响,例如模型架构,损失函数和优化算法。文中介绍基于人群训练(Population Based Train
【机 构】
：
昆明理工大学信息工程与自动化学院,中国科学院计算技术研究所,潍坊科技学院中印计算机软件学院
论文部分内容阅读
神经网络主导了现代机器学习领域,但是他们的训练和成功仍然受到超参数经验选择的敏感影响,例如模型架构,损失函数和优化算法。文中介绍基于人群训练(Population Based Training简称PBT),一种简单的异步优化算法,有效地利用固定的计算预算来优化模型以及其超参数群体的最大化性能。重要的是,PBT发现了一个超参数设置的时间表,而不是遵循一般的次优策略,试图找到一个固定的集合用于整个训练过程。通过对典型分布式超参数训练框架的小步幅修改,文中的方法可以对模型进行稳健可靠的训练。文中展示了PBT在深度强化学习问题上的有效性,通过对一组超参数进行优化,显示了更快的时钟收敛和更高的代理性能。
其他文献
随着通讯互联科学的技术创新日渐民用化,互联网和电信产业飞速发展,移动终端使用广泛,加上物联网的高速构建和线上支付平台的推广,线上互联、消费与交易已经成为百姓日常生活
目的:探讨合理情绪疗法对精神分裂症患者社会功能及生活质量的影响。方法:将135例精神分裂症后抑郁患者随机分为研究组(67例)和对照组(68例)。对照组使用常规药物治疗及一般
研究了纤维（ＢｏｎｉＦｉｂｅｒｓ）加强沥青路面的路用性能，试验结果表明ＢｏｎｉＦｉｂｅｒｓ用于沥青路面可以显著改善沥青路面的高温性能和疲劳耐久性。也可有效防止沥青路面的低温缩裂现象等。ＢｏｎｉＦｉｂｅｒｓ用于加强沥青路面具有很
选取40头21日龄断奶仔猪研究高剂量氧化锌对早期断奶仔猪肠形态和肠屏障通透性的影响.断奶当天屠宰4头,其余36头仔猪按照体重相近、公母各半分为2组,每组3个重复,每个重复6头
在社会发展和全纳教育呼唤高素质教师的同时,我国特殊教育教师专业素质的现实,使我们迫切地感到,建立一支高素质的特殊教育教师专业队伍已迫在眉睫。本文采用问卷调查的方法,
任何产业集聚都需要金融的支持,同时任何经济活动都是在特定的空间区域展开的。本文将从空间异质性的角度去研究金融发展与高技术产业集聚的关系。本文通过空间自相关检验、
论问号的用法及其常见的错误张理明标点符号是书面语言用来表示停顿、语气以及词语的性质和作用的符号，是书面语里不可缺少的有机组成部分。郭沫若同志说：“标点一定要恰当。标
<正>随着我国高速路网体系建设的日益完善,如何利用物联网技术提升智慧高速公路的建设成为高速公路领域的重点与难点。本文通过分析物联网在我国高速公路行业的应用现状,发现
目的:研究医学生寻求专业心理帮助的态度及相关问题,探索并揭示医学生心理求助态度和自我污名、公众污名的关系。方法:采取随机抽样方法抽取河北省某医学院校大四、大五学生