【摘 要】
:
深度神经网络(deep neural network, DNN)已广泛应用于人类社会的许多领域.大规模的DNN模型可显著提高识别精度,然而在单个GPU设备上训练大规模的DNN模型需要耗费大量的时间。因此,如何借助分布式深度学习(distributed deep learning, DDL)技术,在GPU集群上并行地训练多DNN模型已受到工业界和学术界的广泛关注.基于此,提出一种面向GPU集群的动态
【基金项目】
:
国家自然科学基金项目(61802095,61572162); 浙江省自然科学基金项目(LY22F020021);
论文部分内容阅读
深度神经网络(deep neural network, DNN)已广泛应用于人类社会的许多领域.大规模的DNN模型可显著提高识别精度,然而在单个GPU设备上训练大规模的DNN模型需要耗费大量的时间。因此,如何借助分布式深度学习(distributed deep learning, DDL)技术,在GPU集群上并行地训练多DNN模型已受到工业界和学术界的广泛关注.基于此,提出一种面向GPU集群的动态资源调度(dynamic resource scheduling, DRS)方法,解决异构带宽环境下具有截止时间要求的多DNN任务调度问题.具体来说,首先基于Ring-AllReduce通信方式构建资源-时间模型,以衡量DDL任务在不同资源方案下的运行时间;然后基于截止时间需求构建了资源-性能模型,以实现高效的资源利用;最后,结合上述资源-时间和资源-性能模型设计了DRS算法,为多DNN任务训练实现资源方案决策。在DRS算法中融入最近截止时间原则进行实际资源分配,并利用资源迁移机制减少调度过程中出现的资源碎片场景的影响.在4个NVIDIA GeForce RTX 2080 Ti的GPU集群上的异构带宽的实验表明,DRS相较于对比算法提升了39.53%的截止时间保证率,并在调度过程中GPU集群节点的资源利用率达到了91.27%.
其他文献
综述了紫外线所致皮肤细胞老化凋亡、自噬参与维持细胞稳态及自噬在调节光老化细胞中的作用,对皮肤光老化的治疗研究进行了讨论。自噬作为细胞在面对损伤时自发的应激机制可以通过调节细胞器稳态、减少氧化应激反应等方式延缓紫外线引起的皮肤光老化过程,对于皮肤疾病研究具有重要意义,可能是防止和修复紫外线损伤皮肤的新途径。针对自噬在面对光老化细胞中的作用机制,分子靶向治疗将有助于临床对于光损伤所导致的皮肤病防治,进
人工湿地中植物及其根系微生物对环境中的抗生素具有较好的去除效果,但对抗生素胁迫下多种植物及微生物响应特征的了解仍然不足,因此有必要研究不同浓度抗生素胁迫下植物及微生物的差异性响应特征。探讨了典型极性抗生素——氧氟沙星(ofloxacin,OFL)胁迫下5种湿地植物(唐菖蒲、风车草、水葱、水芹、灯心草)-微生物系统对OFL的去除性能。基于不同植物对OFL的去除效率,对唐菖蒲和风车草的根系活力、活性氧
随着双减政策的落地,教学发展的重心转变,如何让学生能够在课余时间、课后学习中获得良好的教育成为当下教师需要思考的问题。其中,“控量减负,创新增效”是小学数学教学需要着重加强的板块,也是目前数学教学的最新要求。有效的作业设计对提高学习效果有着积极影响。因此,本文就“双减”背景下小学数学作业布置策略进行了简要分析。
1目的半夏为天南星科植物半夏Pinellia ternata(Thunb.)Breit.的干燥块茎,具有燥湿化痰,降逆止呕、消痞散结的功效。姜半夏为其常用炮制品,但姜半夏传统饮片生产过程繁琐、工艺交叉重复、生产周期长,增加了生产成本,影响了饮片质量。基于上述问题,本研究以脱皮鲜半夏为原料,研究姜半夏产地加工与炮制一体化生产工艺,确定姜半夏一体化生产的关键技术参数,并对脱皮鲜半夏贮存方法工艺进行考察
道地药材是指具有特定地理产区,品种优、品质好、产量大,生产加工规范,临床疗效显著,世所公认的久负盛名的优质正品药材。道地药材的“道地性-功效”内在规律的研究是道地药材研究中最关键、最核心的内容。文章从优良种质资源、适宜生态环境、规范生产加工、显著临床疗效、优秀中华人文诠释了“道地性-功效”的科学内涵;从六要素揭示了道地性与功效的多维关系;通过质量标志物、生物标志物、遗传标志物建立了“道地性-功效”
介绍2008—2019年国家自然科学基金(NSFC)药物分析学的项目资助情况,重点分析2016—2019年期间药物分析学在各个研究方向获资助的项目数和资助金额所占比例,探讨药物分析学近年的研究范畴和创新点,归纳项目申请中可能存在的问题,展望药物分析学的发展趋势。
以不同质量分数(0,1%,2%,3%)的水性环氧树脂为改性剂,制备了高性能环氧树脂透水混凝土,研究了环氧树脂掺杂量对透水混凝土力学性能、透水性能、抗冻性能和微观形貌的影响。结果表明,适量的环氧树脂掺入透水混凝土后,可以增加骨料与砂浆之间的粘度,并提高其结合强度,从而提高了改性透水混凝的力学性能、透水性能和抗冻性能;随着环氧树脂掺杂量的增加,改性透水混凝土的抗压强度和抗折强度先增大后减小,透水系数和
间质性肺疾病(ILD)属于难治性呼吸系统疾病,主要累及肺间质、细支气管和(或)肺泡,最终导致肺纤维化,严重影响患者的生命质量。肺康复训练治疗ILD患者能够显著改善肺功能,其中运动训练是肺康复训练的基石。针对不同症状的ILD患者,制订不同的肺康复运动训练形式、时间、强度,并定期进行科学的督导,可持久地提高康复效果。本研究综述肺康复运动训练治疗间质性肺疾病患者的研究进展,以供临床参考。
目的 研究不同性别高龄老人维生素A、维生素E、维生素K1和25-羟基维生素D[25(OH)D]的差异,以及血清25(OH)D在质谱法和免疫法中的差异。方法用质谱法检测100例高龄老人(其中男性54例)的维生素A、维生素E、维生素K1和25(OH)D,同时用免疫法测定25(OH)D。结果 高龄男性血清维生素E低于女性(P <0.05),而不同性别组在维生素A、维生素K1和25(OH)D上差异均无统计
<正>2022年4月,教育部印发义务教育课程方案和课程标准(2022版),旨在培养有理想、有本领、有担当的时代新人。义务教育新课程注重素养导向、重大主题教育以及学科实践,体现了德育的新取向,为教师开展德育工作提供了根本指引。以核心素养为引领,确立各门课程的德育目标。作为专门德育课程的道德与法治课程的核心素养,包括政治认同、道德修养、法治观念、健全人格、责任意识;其他课程的核心素养也普遍指向德育目标