异构环境下Map-Reduce调度算法的研究

来源 :上海交通大学 | 被引量 : 0次 | 上传用户:hamkang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
云计算技术使中小型企业不必组建自己的数据中心,采用“用时付费”的方式,也能获取需要的计算和存储服务。云计算系统背后是强大的并行计算和分布式存储技术。Map-Reduce是现有的云系统采用的并行编程模型和调度方式,在异构环境下,传统的Map-Reduce调度器效率低下,浪费系统资源,任务响应时间长,吞吐率低。本文首先简要地介绍了云计算的定义、发展、应用场景、核心技术、以及改进的Map-Reduce调度器:LATE调度器。本文的主要工作是:提出了自适应的Map-Reduce调度方式,针对传统Map-Reduce调度方式和LATE调度器的缺点和不足,提出了改进方法。即通过历史信息动态调整Map和Reduce任务各阶段的时间比例。并将节点进一步分类,从而能够在快速节点上启动落后任务的备份任务,从而减小响应时间,并尽量避免节点空载,以免浪费系统资源。本文分析了提出的改进方式的理论基础,以及其他调度方式缺点。另外,通过具体实验,验证了自适应的Map-Reduce调度的有效性,从历史信息中学习的方式在实验中能减少15%左右的响应时间,综合各种技术,能够减少25%左右的响应时间。论文的创新性在于:(1)首次将历史信息引入到Map-Reduce调度器中,综合历史信息动态调整Map和Reduce任务各阶段的时间比例。(2)考虑Map任务的两阶段特性。(3)将在LATE调度器中提出的慢节点进一步分为Map慢的节点和Reduce慢的节点。(4)每个节点独自地收集运行任务的运行信息,并更新历史信息。
其他文献
云环境中同驻虚拟机间由于共享物理资源,使得一些恶意云用户通过探测、分析共享资源的信息来隐蔽地获取其他云用户的私密信息,引发侧通道攻击威胁,从而使云环境中的同驻虚拟
随着我国经济的高速发展,城市化的步伐加快,中国的许多大中城市开始出现城市蔓延。这主要是由于城市用地的快速扩张和无序开发引起的,因此中国城市化面临的一个主要问题就是
工作流技术以其在实现业务流程的自动化上的优势而成为一个新兴技术亮点。业扩报装系统是电力企业安全稳定运行的重要保证。在对工作流理论和标准进行深入研究的基础上,本文
三维游戏技术目前已经广泛应用于各种研究领域,如虚拟现实系统、汽车模拟训练系统及军事仿真系统等。它推动诸多领域的发展,并已经成为当今的研究热点。基于三维游戏技术的重
电脑横机是一种由电脑控制的自动化程度很高的横编针织机械,主要用于羊毛衫等针织服装以及工艺品的编织制造行业。   电脑横机控制器是整个电脑横机系统最核心的部分,合理的
文字是人类信息交流的主要载体之一。随着计算机信息技术的高速发展,使用计算机处理并识别文字信息也就成为了一个非常重要的研究和应用领域。光学字符识别OCR(Optical Chara
无线传感器网络是一种全新的信息获取和处理技术,它将逻辑上的信息世界与客观上的物理世界融合在了一起,作为未来实现“普适计算”的一种新型技术,无线传感器网络在越来越多
手势识别已成为人机交互领域中重要的研究课题之一。其中动态手势识别在家庭娱乐,智能驾驶等非接触式遥控方面有诸多应用。随着Kinect等深度摄像机的出现,基于深度图像的动态手
实时碰撞检测是虚拟现实中一个非常关键的问题,其基本任务是确定两个或多个物体彼此之间是否发生接触、接触面积大小和穿透的深度。尽管针对碰撞检测已有了大量有价值的研究
从软件生命周期来看,需求分析与设计阶段是软件开发的前期阶段,是编写代码的基础。设计阶段信息是指在软件设计阶段所产生的各种动态与静态信息。这些信息通常以文本文档、流