基于资源状况的延时等待公平调度算法的研究

来源 :东北大学 | 被引量 : 6次 | 上传用户:weicun_weicun
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网技术的迅猛发展,大规模的数据也随之产生,传统的数据存储方式和处理方式已经不能满足海量数据对存储和处理的需求。云计算平台的出现,则为海量数据的存储和处理提供了一个很好的解决方案。本文选取具有诸多优点的Hadoop云计算平台作为研究对象。作业调度算法是直接关系着Hadoop平台用户体验和整体性能的关键技术之一。因此对]Hadoop平台作业调度算法的研究具有现实意义。本文首先阐述了Hadoop的背景知识,深入分析了Hadoop平台的关键技术,包括HDFS和MapReduce两大核心内容,并对Hadoop平台上作业执行流程进行研究,然后在Linux系统下,以多线程和消息通信为技术基础,采用C语言编程对MapReduce计算模型进行了仿真实验。然后,针对Hadoop平台现有的公平调度算法任务等待超时时间对本机架和其他机架不区分,且为静态等不足,给出了基于资源状况的延时等待公平调度算法。该算法通过采用定期获取集群资源状况以确定等待超时时间,使其具备一定的动态性。同时,为了缩短作业运行时间,在任务调度时,根据任务的分类并结合任务的特点,采用不同的调度策略。最后,通过搭建Hadoop实验平台并选取合适的基准程序,然后通过一系列的实验证明了基于资源状况的延时等待公平调度算法比原算法在一定程度上缩短了作业运行时间,验证了基于资源状况的延时等待公平调度算法的有效性。
其他文献
视频编码的主要目标是在信道给定,传输比特受限的情况下,保证一定的重构质量,以尽量少的比特数来表征图像/视频信息。新一代视频编码标准H.264/AVC的宏块编码采用率失真优化,
串行程序并行化的目标是将串行程序转换为等价的可以在并行环境下执行的程序。等价的含义是指串行程序与转换后并行程序的执行结果完全相同。在整个转换过程中,识别出更多的
四川省网络通信技术重点实验室针对现有Internet的三层或两层用户数据传输平台,传输与交换效率低,难以保证实时性数据流的传输和交换服务质量的缺点,提出了以“面向以太网的
由于Internet的飞速发展及其在社会各个领域的渗透,IPv4技术显露出一些局限,其中一个重大局限是难以为网络所承载的业务提供有效的服务质量保障。IPv6技术虽然在报文结构上作了
随着银行业信息化进程的加剧,常用高级语言在解决复杂银行业务时,出现了开发效率低、不能直接被银行业务专家使用的问题。这就需要一种面向银行业务的特定领域语言。针对商业银
随着信息技术的快速发展与广泛应用,如何有效管理、高效处理大量的信息数据已经成为学术界与工业界面临的重要挑战。如社交网络、传感器网络及电商交易等应用中的数据具有图
随着网络不断发展,许多对传输层和应用层协议进行性能增强的技术相继出现,而目前IPSec提供的端到端安全保护模型已不能满足这些新应用的要求。中间站点开始扮演越来越重要的
本文重点研究2.5Gbps超高速串行收发器中时钟数据恢复(Clock Data Recovery,CDR)电路的设计与实现问题。研究内容来源于国家“863”计划课题:“宽带电路交换核心芯片开发”与陕
当前语义Web在Web技术领域已成为一个研究热点,语义Web不是一种全新的Web,而是对当前Web的扩展,其中的信息被赋予明确的含义,使机器和人能更好的协同工作。Web上的信息是用结构化
下一代网络是业务驱动的网络,Parlay应用服务器作为下一代网络业务层的核心设备,需要为种类繁多的个性化、智能化业务逻辑提供了稳定高效的运行环境,同时也需具备电信级的可靠性