Hadoop 平台下 MapReduce 模型的数据分配策略研究

来源 :湖北民族学院学报:自然科学版 | 被引量 : 0次 | 上传用户:zxhouxingzx
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对Hadoop开源云计算平台下MapReduce并行编程模型中间数据分配不均衡的问题,提出基于抽样的改进型MapReduce模型,即SMR( Sample MapReduce )模型.SMR模型采用MapReduce作业方式对各分块数据集进行并行抽样,基于抽样结果,利用LAB( leen and balance )均衡算法对Map端输出的中间数据进行均衡分配,以改善Re-duce端处理数据负载不均衡问题.实验结果表明:改进型MapReduce模型可以有效减少作业运行时间,Reduce端输入数据达到负载均
其他文献
中国作为全球第三大医药市场,有着巨大的发展空间,但是国外制药巨头凭借在创新能力和资本实力等方面的绝对优势,正逐步扩大在我国药品市场中的影响力。同时,我国医药生产企业
利用花培纯系培育出杂交稻新组合Ⅱ优802ⅡYou802,anewhybridricecombinationdevelopedfromuseofananthercultureline张志雄,张安中,向跃武,周贤明(四川省农科院生物技术核技术研究所610...更多还原
随着现代园艺的不断发展,重庆许多企业逐渐转型投入到农业现代观光园区的建设,草花成为观光园区不可忽略的一个重要组成部分。分析重庆地区种植硫华菊、万寿菊、向日葵、美国
结合杨梅引种、大苗移植等的实践经验,从“建园及移植前准备,苗木选择及运输,苗木定植,定植后管理”等方面总结重庆地区杨梅大苗移植关键技术.
微电子工业中芯片表面外观检查需求已广泛存在,而人眼检测已愈来愈不能对应当前自动化、数字化的要求.当前已有图像处理技术应用在电子芯片外观检查上,但往往没有整套的系统,只是针对某个问题提出算法或解决方法.对此,提出了一个图像处理耦合机器视觉的芯片表面缺陷检查系统,并在软件硬件上集成实现.首先设计并搭建光源取像平台;然后基于轮廓定位芯片ROI区域,识别各种缺陷.最后,引入IO卡控制传动伺服、读码器记录芯
森林资源要彻底杜绝森林火灾的发生是相当困难的,但制定有效的预防措施可以减少森林火灾的发生,可以防患于未然。学院林地有蓄水池、瞭望台、防火线、防火沟、林区道路和防火执
重庆市云阳县紧紧抓住绿化长江柑橘带建设的有利时机,新发展优质晚熟柑橘0.8万hm^2,在政府主导的管护期结束后,管护工作如何实现转型发展。通过深入柑橘产业基地乡镇调研,总结出了
非奇异H-矩阵在科学和工程的实际应用中发挥着重要作用。近期一些迭代法被用于判别非奇异H-矩阵。提出新的实用迭代公式,推广和改进了已有的相关结果。
优质杂粳优湘睛的栽培特性及其高产栽培技术Culturalcharacteristicsandhigh-yieldingculturaltechniquesofthejaponicahybridriceSasanishikiA×Xianqing黄士俊...