基于机器学习的MapReduce资源调度算法

来源 :计算机应用研究 | 被引量 : 0次 | 上传用户:wcz741335565
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对MapReduce中允许map和shuffle阶段重叠的优化模型需要自适应性的问题,提出了基于此模型的机器学习的资源调度算法,利用贝叶斯分类器依据作业对系统资源的需求和系统环境的匹配程度对作业进行调度,并不断更新分类器,使其具有自适应性,考虑了map和shuffle的重叠阶段。通过模拟实验验证,改进后的算法能够提高MapReduce系统的性能,获得更好的平均响应时间。
其他文献
通过对比跨度32m铁路预应力混凝土梁用不同方法加固前后的力学性能,研究碳纤维加固技术应用的适宜场合。研究结果表明:在抗弯加固方面,碳纤维加固更适合于原结构高度较小、配筋
基于牵引变压器油中多组分气体在线监测技术设计相应的监测装置。装置以聚四氟乙烯作为油气分离的透气膜,油气平衡时间小于24 h;采用2根气相色谱柱,色谱柱1能有效分离H2,CO,C
根据连续介质力学基本理论,针对大跨度钢桁梁柔性拱桥在变形、失稳破坏期间产生的材料和几何非线性特性,用通用软件ANSYS建立桥梁的空间模型.采用非线性有限元法,进行钢桁梁
带故障的铁路货车滚动轴承振动信号表现为低频平稳信号与高频的周期性冲击信号的叠加.采用以三阶B样条函数作为窗函数的自适应短时傅立叶变换(STFT)对货车滚动轴承振动信号进
针对东莞水道特大桥主桥结构(主跨拱肋采用钢管混凝土拱形空间桁架结构,主拱肋轴线采用悬链线)和扣挂法施工的特点,采用正装法进行主拱钢结构施工中的线型控制分析.在扣索索
机车车辆颤振现象出现于机车低速制动工况下,与制动过程的非线性制动力,机车车辆的动态结构特性及其相互作用有关。分析颤振现象的机理,基于振型耦合理论建立机车制动颤振现
链路预测是复杂网络研究的基础问题之一,目前研究者们已经提出了许多链路预测的方法,其中大量的链路预测方法是基于经典随机游走。量子游走是经典随机游走的量子模拟。大量研究
对环Z/(p~e)上本原序列导出的最高权位序列模m的保熵性进行了研究,这里p为任意奇素数,e、m≥1为任意正整数且m+p~e。利用环Z/(p~e)上次数为n≥2的本原多项式导出的本原序列元素分布的性质,对上述最高权位序列保熵性成立的充分条件进行了构造;同时当本原多项式的次数n足够大时,其本原多项式构造的本原序列导出最高权位序列的保熵性是严格成立的。结果表明,这类最高权位序列与环Z/(p~e)上本原
在多处理器系统,传统的可诊断算法在处理大规模故障集时有明显的局限性。针对增广立方体诊断度提升的问题,提出了一种可诊断的变形算法,即t/k可诊断算法,在该算法下,可明显提
群智感知技术的应用实现了人群感测作用的最大化,作为社会网络研究的核心技术之一,对于感知参与者的位置和轨迹不确定性的问题造成群智感知数据实时性较差,为此,提出了一种基于空间任务分配的移动群智任务分配算法。该算法采用动态和自适应的数据驱动方案获取最优的模式来解决感知动态化问题;算法基于公开历史轨迹的移动模型(基于马尔可夫模型),根据初始任务按照贝叶斯推理来估算下一位置,基于该算法的数据采集策略可以实现