Hadoop云计算平台作业调度算法的研究

来源 :华北电力大学(保定) 华北电力大学 | 被引量 : 0次 | 上传用户:z344121483
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
数据的指数级增长向世界互联网巨头Google、Yahoo、Amazon和Microsoft等这些处于市场领导地位的公司提出了挑战,它们需要分析TB级和PB级的海量数据以发现有价值的信息推荐给那些有潜在需求的人群。现有的工具正变得无力处理如此大的数据集,Google率先推出了MapReduce编程模型,这是Google公司为了在廉价的计算机集群上来存储并处理PB级的数据而提出的一种解决方案。这一解决方案引起了学术界和工业界的广泛关注,因为许多企业同样面临数据膨胀的挑战,一些开源软件诸如Hadoop等给这些企业带来了希望,使它们能够在廉价的计算机集群上存储海量数据,并能够运用MapReduce的思想并行处理这些海量数据,为它们节约了大量的计算以及存储成本。由于现有的Hadoop集群中包含各种类型的作业,有些作业对完成时间没有要求,而某些作业的完成时间过长时有可能给企业带来损失,为此本文着重研究了集群中各种作业的调度执行流程,分析了MapReduce现有的调度机制,本文针对目前调度算法不能支持对时间紧迫性要求较高的作业的需求,对作业调度算法进行了相应的改进,设计并编写了一个双队列的作业调度器,并研究了集群中慢节点的判定方法、推测执行任务的选定方法,以将推测执行的任务尽量分配给快节点执行,最大化的减少集群中资源的浪费,更好地满足用户的需求。最后,我们通过搭建Hadoop集群对编写的双队列调度器的性能进行测试,验证了改进后调度算法的正确性,在集群中有各种类型的作业时,该调度器能够优先执行一些紧迫性要求较高的作业,以使它们尽早地完成,提高了集群资源的使用率,从而满足各种用户的需求。
其他文献
现如今高中物理课堂早已摆脱陈旧教育教学观念,打破书本文字的刻板教学思想理念,运用新思维方式培养学生在学习能力上的转变,也在教学方法和科学实验有崭新的突破.并且针对高
辨识和分析基因的表达模式对于理解生物体的内在活动机制、针对性的疾病诊断和药物设计具有重要的作用。尽管当前存在多种基因跨组织表达数据如微阵列、EST等,但是如何通过这
使用计算机辅助设计系统设计一件优雅的三维衣服是很耗时的,而且在一般情况下,衣服是基于某个参照人体模型设计的,所以需要一个试穿系统来将已设计好的衣服自动过渡到其他的人体
在“文艺复兴”时期的绘画中,肖像画占据着突出的地位.肖像画在这个充满变化和改革的时代还具有不同的功能.本文通过描述“文艺复兴”时期的不同肖像画作品,对肖像画的功能进
近年来,随着数据管理技术的飞速发展,人们对数据的认知也在逐渐发生变化,研究者们突破对传统数据的理想化定义,认识到不确定性是数据的固有属性。随着计算机技术的不断发展,一种结
“物理教师专业发展”的核心概念是:物理教师工作乃是一种专业工作,物理教师是持续发展的个体,可以透过持续地学习与探究历程来提升专业水准与专业表现.它强调物理教师在专业
“当代艺术”在时间上是指现如今的所有的艺术形式,用以区分于“现代主义”,而在内涵上则包括现在自由的、混杂的、多元的、无序的艺术.不过,艺术的界定是很困难的,不同历史
随着我国智能手机的普及,移动互联网使用人数的增加,促使了移动互联网的飞速发展,网络中存储的各种数据呈指数级增长。如何利用信息检索技术快捷有效地从这些海量的数据中获
B+树的并发控制协议有二阶段锁协议和多版本协议两种。二阶段锁协议是利用适当的封锁协议,实现多个用户的并发操作,但是读写同一对象冲突。多版本协议是使用多个版本的数据项来
期刊