任务感知Yarn资源调度器的研究与实现

来源 :北京邮电大学 | 被引量 : 3次 | 上传用户:ivantesr
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
通用计算资源管理框架Hadoop YARN(Yet Another Resource Negotiator)如今被成功地应用到越来越多的业务场景中。YARN的三种资源调度器不具有任务感知功能,无法根据任务的具体需求对任务进行资源调度。海量数据分布式计算时,用户希望在预期时间内完成其应用程序。YARN平台根据经验判断期望时间内完成某个应用需要的集群节点数量。然而,该方法无法确保正确性,如果判断需求的资源过少,则不能在期望的时间内运行完自己的应用,反之,则会造成资源的浪费。此外,同时存在多个具有时间需求的应用,YARN无法判断所需资源数量。为了解决以上这两个问题,需要设计一种资源调度器感知到任务需求。本文通过对常用并行计算应用MapReduce的特性进行研究,并在YARN的基础上进行二次开发,做出了具有任务感知能力的YARN资源调度器,该调度器能感知到任务的时间需求,并根据时间需求对资源进行调度以尽可能的满足所有应用的时间需求。同时结合了云平台资源伸缩的特点,搭建了一个ARSF(Adaptive Resource scheduler Platform,自适应资源调度平台)系统。此外,ARSF判断当前集群资源是否能够满足所有应用的时间需求,不能满足时则向云平台申请资源加入到集群之中。本文通过实验对ARSF的功能和性能进行了测试,验证了 ARSF可以在集群运行时水平扩展集群的规模。并将ARSF与普通的YARN平台以及采用了另一种应用感知资源调度算法的ARIA框架在满足应用时间需求这一指标上进行了对比,实验结果显示ARSF平台在满足应用时间需求这一点上明显优于普通YARN平台,且优于ARIA框架。
其他文献
在100L反应釜中进行制备黄连木生物柴油的中试试验,研究了反应温度、甲醇用量、催化剂用量、搅拌速率和反应时间对转化率的影响。试验结果表明最佳反应条件:反应温度60℃,甲醇
【正】 本文试图将各种不同的《易》的爻画卦图合起来进行比较分析,探讨群《易》之间的联系和区别及《易》与中国数学的关系。 一、丰富多彩的经卦 各式各样的数符 《周礼&#1
对双低杂交油菜制种的适宜播期、父母本行比及前期施肥方式进行了研究.结果表明:适播期为9月16~25日;父母本行比以2:3为宜;前期采用平衡配方施肥可使制种产量提高11.5%,在此基
采用实地踏查、访问调查和查阅文献的方法,系统调查分析了陇东地区园林绿化及观赏植物应用情况。结果表明,陇东地区应用的园林绿化及观赏植物隶属89科185属318种。其中,蕨类
【正】 西方资本的侵入,引起了中国社会的畸形变化。十九世纪七十年代,中国民族资本在外国资本主义和本国封建势力的窒压下,逐渐从买办资本、官僚资本中分离出来。据统计,至
论述了主扇风机运行管理信息系统的组成和设计内容,介绍了运用网络技术、通信技术、数据库处理技术和现代管理技术开发的具有主扇远程运行管理与监测、日常管理业务处理、故
群体性事件不能与违法或犯罪行为划等号,其产生有理论与现实的原因。解决群体性事件,并非是在形式上以高压手段完全消除群体性事件,而是要在宏观制度层面合理设置利益分配和协调
美国是历史上唯一成功获得地区性霸权的国家,鉴于越过巨大水域投送力量这一十分困难的事实,使得“离岸平衡手”的角色成为美国大战略的最佳选择。历史上的美国也确实如学者们所
大数据时代下科技对隐私权的侵害与促进保护之影响近乎趋同。隐私权是保障私人生活独立性、保持个人生活自主性的重要权利。随着科技的飞速发展,具有“保持秘密、隐藏身份、离群独处”属性的隐私权在各类视频监控技术的包围下似乎难有容身之地。在当代人隐私观念增强和大数据时代监控技术、数据分析技术对隐私权侵害程度加深这一对矛盾的背景下,因私人视频监控的使用引起了一定数量的隐私侵权纠纷。尽管在私人视频监控下隐私权保护
江苏省如皋市以建成"民富村强乡美风气好"的新农村为总目标,紧紧围绕提升农民生活质量,打造优美宜居环境,大力开展"六整治、六提升",积极创建星级康居乡村,把村庄环境整治作为生