基于训练数据动态分配的深度学习并行优化机制

来源 :计算机工程与科学 | 被引量 : 0次 | 上传用户:kc1223
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
基于MXNet框架,针对同步并行下参数同步耗时过长这一问题,提出了一种多机同步并行下的训练数据动态分配算法。基于计算节点的计算效率,每一次迭代后将动态调整节点需要处理的样本数据量。这样的机制使模型既能同步并行也降低了等待梯度更新的耗时。最后,利用天河二号超级计算机对此优化算法进行了对比实验,实验结果表明,所提出的优化机制达到了预期效果。
其他文献
刘粹轩和李敏修对嵇文甫的影响李道雨古往今来,一个人的成长,因素固然很多,但总和老师的耳提面命培养教育息息相关。嵇文甫天资聪颖,勤奋好学。而他之所以于辛亥年间觉醒,五四时期
探讨新时代提出医院信用评价新要求的工作路径。本文主要介绍目前对信用的论述和信用评价的定义,阐述医院信用评价是新时代的政策要求,并简要综述医疗机构信用评价的现状、信
相比传统的一般建筑而言,高层建筑受力情况和结构体系更为复杂。高层建筑若出现较大沉降变形,就会有较大风险,会给人们生命财产带来危害。为了满足用户正常使用需求,故高层建
基于模式干涉理论和布拉格光纤光栅的传感特性,提出了一种单模-少模光纤布拉格光栅(FBG)-单模结构的组合传感器。利用光纤熔接机将一定长度的少模光纤(FMF)熔接在两段单模光
淡水养鱼全靠人工投喂饵料。草食性鱼类配合饵料中粗蛋白质含量应不低于20%;肉食性鱼类的饵料蛋白质含量以30%—50%为宜,能量应不低于5.23兆焦卡/kg,现提供以下配方供选用。1.带
成本管理是水利工程项目管理的重要组成部分,贯穿于水利工程建设的整个过程。而在水利工程建设中,由于施工工期长、资金投入多、涉及面广,容易出现一些风险因素,因此,成本管
近年来,温室气体的排放已成为各国重大环境问题之一,并逐渐受到社会各界人士的重视。污水处理是一种易被人忽视的、高能耗的产业,其碳排放的统计与计算多种多样。对两种最常
李敏修堪称民国时期中原地区绅士群体中的标志性人物,河南地区的最后一位理学家。他的社会思想主要包括忧患意识、济民思想、教化三个方面。其中,忧患意识具体体现为不满时政
水功能区划是水利部门对水资源开发利用与保护的基础工作,又是进行水资源管理的依据.《贵州省水功能区划》中区划的河流共有167条,总区划河长1 5530 km,共划分285个水功能区.
根据光信息科学与技术专业的特点,系统地阐述了专业实践教学创新体系的内涵、核心和特征等基础理论。以青岛大学物理科学学院校内和校外实践教学两大平台以及产学研发展的模