基于Map/Reduce模型的任务调度算法的研究

来源 :哈尔滨理工大学 | 被引量 : 0次 | 上传用户:a2590222
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
云计算是一种虚拟化计算机资源池并按需提供服务的商业计算模型,在当今万物互联数据爆炸的时代发挥着非常重要的作用。云计算平台不断为科技、教育、医疗等行业的技术提供服务,同时也在不断改变着未来技术服务的发展模式与方向。在云计算平台中,影响平台性能的因素很多而任务调度的效率是最直接最重要的因素。现在的任务调策略基本是基于Map/Reduce框架开发的,由此可见Map/Reduce下任务调度效率的高低成为制约云计算平台性能的关键因素。由于Map/Reduce框架中的节点采用并行的方式处理用户提交的任务,对于具有依赖关系的多个子任务组成的复杂任务的处理效率较低,而传统的任务调度算法没有合理考虑节点的计算能力,导致整体的任务调度效率偏低。针对上述提出的问题,若要提高Map/Reduce下任务调度的效率,需要从如何处理用户提出的复杂任务,以及充分考虑计算机节点的计算能力和节点对不同任务的处理能力作为切入点,以提高任务调度的效率和资源的使用率作为目标进行研究,其中主要内容有以下几点:第一,改进Map/Reduce框架:在Map节点前增加Work节点,并将这些Work节点用于处理复杂任务,提高Map/Reduce的兼容性。通过增加具有先后执行顺序的Work节点,对应具有依赖关系的子任务来处理复杂任务。第二,通过将复杂任务的子任务转化为AOV网,通过对AOV网进行最佳拓扑排序的方式获得子任务的执行顺序,然后根据剪枝算法得到任务调度方案,并按照子任务执行顺序依次交由Work节点进行处理,实现对复杂任务的调度。第三,采用差值矩阵算法实现对简单任务的调度分配,提高任务调度的效率。通过抽样法获得节点处理任务的预测时间,将预测时间与节点计算能力的比值,作为每个任务在每个节点的处理“时间”进行量化建模,建立任务和处理“时间”的度量矩阵,依据差值矩阵算法采用先获得局部最优解到全局最优解的方式,获得对任务进行分配的最佳方案,提高任务调度整体效率和资源使用率。最后,使用Hadoop平台对复杂任务的预处理进行实验验证,主要从任务的响应时间,任务的执行时间等方面将剪枝算法与Fair Scheduling Algorithm和Genetic Algorithm进行对比,实验表明复杂任务的预处理能明显提高对复杂任务的处理效率和任务整体调度的准确率;通过使用Cloud Sim云仿真软件对差值矩阵算法进行实验验证,从任务调度的整体效率与集群资源的使用率两个角度,将差值矩阵算法与Fair Scheduling Algorithm、Genetic Algorithm对比验证。实验结果表明,差值算法能明显提高任务调度的整体效率和集群资源使用率。
其他文献
随着我国社会经济的日益繁荣和互联网技术的升级普及,人们对公共交通的发展也出了更多的要求,与此同时城市交通拥挤问题越来越严重。在城市居民快节奏的工作和生活中,共享单车应需而生,成为高交通通达性,降低出行成本的可选模式,在共享单车实现一定普及后,成为准公共交通出行模式。共享单车的应用,是绿色发展的科学之举,有利于能源的节约和环境污染问题的解决,还可以降低道路拥挤程度,解决出行最后一公里问题的同时,也为
在互联网迅速发展的今天,随着“互联网+”对多数服务行业的影响,产生了网约车服务,这在很大程度上为人们的出行提供了便利。虽然网约车的出现到运用广泛的时间并不长,但却引发了不少新问题的出现,近几年出现的网约车乘客遇害事件让人们对其关注度提高,但是在人们将眼光放在如何惩治犯罪人和保护乘客时,往往容易忽视网约车平台的存在。论文通过我国现有的相关规定及网约车平台的特殊性探讨网约车平台的民事责任,发现和解决可
目标检测与定位技术在智能车辆环境感知体系中占有重要地位,在军用和民用自动驾驶平台上有着广泛应用。现阶段自动驾驶场景中使用较多的方案通常只适用于某一类目标,并且未充
习近平总书记在全国高校思想政治工作会议上明确指出:“要加强人文关怀和心理疏导,引导师生正确认识义和利、群和己、成和败、得和失,不断提升心理健康素质。”它告诉我们,心
非酒精性脂肪性肝炎(NASH)是代谢综合征中的主要病征之一。暴露于游离脂肪酸的肝细胞中促炎性介质的表达上调是NASH发病过程中的一个标志性事件。C反应蛋白(CRP)是典型的促炎介质。在本论文中,我们研究了巨核细胞白血病因子1(MKL1)介导棕榈酸(PA)诱导肝细胞中CRP转录的机制。我们发现,MKL1的过表达激活了CRP启动子活性,而敲减或抑制MKL1则下调了CRP启动子活性。MKL1增强了PA处
晚清以降,上海是一个颇值得注意的地方。一方面,上海作为租界和通商口岸,具有一种西方化、非传统性的城市新质。另一方面,上海又保存着一种属于内陆母体的“文化本质”。在中
网络游戏直播是近几年来最炽手可热的行业之一,但在这繁荣兴盛的背后却隐藏着很多侵权现象,加上我国的著作权法具有一定的滞后性,因此为保护网络游戏直播著作权带来了很大挑
近些年,传统互联网电商企业凭借自身完善的平台和数据支撑系统开始向金融行业渗透,改变了金融业态和格局。为了应对挑战,更好地了解与分析客户多元化的需求,有效地推动金融业务优化与转型,充分地发挥传统金融与庞大的客户资源优势,商业银行纷纷上线自己电商平台。在此背景下,河南农信于2018年上线了金燕e购电商平台,旨在深挖客户需求,融入客户消费场景,继续掌控实体经济的资金循环,但由于缺乏专业电商运作、营销能力
众所周知,对基因表达调控机制的揭示和基因调控网络的建立是生物信息学领域的艰巨任务,而且至今难以完成。识别调控元素对于理解和揭示基因调控机制并构建基因调控网络至关重
生物特征识别技术在人机交互(Human Computer Interaction,HCI)技术中占有重要地位,同时可以广泛应用于国防安全,智能监控,电子商务等诸多应用领域,近年来受到越来越多研究学