基于MapReduce的两表数据倾斜连接的优化算法

来源 :吉林大学学报(理学版) | 被引量 : 0次 | 上传用户:xiachl141
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对Range partition算法不能优化数据集严重倾斜情形下的两表连接效率问题,提出一种改进的数据倾斜连接算法.该算法将倾斜数据和非倾斜数据区别处理,利用复制、广播方法将数据发送到每个Reduce节点,通过一轮Map/Reduce任务完成所有的连接操作,可有效均衡每个Reduce处理量,解决了数据严重倾斜对两表连接性能的影响.与传统的分区连接算法比较结果表明,该算法有效.
其他文献
随着中国—东盟自由贸易区的建立,我国与东南亚各国的经济往来更加频繁,货物流量大大增加,因此对广西北部湾经济区物流需求量进行预测分析显得尤为重要,准确的预测结果可以为
新课程标准提出,学生的学习应该是主动的、建构式的发现学习,而不是被动的、机械式的接受性学习。要让学生主动的学习,就必须重视学生自主学习能力的培养。自主学习指的是学
期刊
通过对振动检测分析,找出压榨部振动与压榨部毛毯的关系,从而采取相应的措施,避免因毛毯制造过程的瑕疵所带来的压榨部振动问题。 By detecting and analyzing the vibratio
当今世界,由于一些人对西方文化全盘照搬式的追随,女性身份仍然处于日益“肉身化”的状态,女性艺术家和批评家的声音仍处于边缘状态。女性艺术家要注重再造女性艺术的精神生态,从
根据超声波回波信号是一个变幅周期性信号这一特点,提出一种用数字细分来精密测量超声波传输时间的方法,阐明了超声波换能器驱动电路原理及利用FPGA电路和高分辨率A/D电路通
首先对组织整合能力和技术整合能力的概念做出界定,然后运用事件驱动法这一工具对海尔集团的组织整合能力和技术整合能力演化进行实证分析.分析结果表明:组织整合能力先于技
目的探讨经直肠联合体表超声在肛周疾病中的诊断价值。方法采用经直肠腔内联合体表超声检查191例各类肛周疾病患者,所有超声检查结果均与手术结果或临床随访结果进行对照分析
<正>始终坚持习近平新时代中国特色社会主义思想,不断适应新形势,完成新任务,全面持续推进改革创新,始终铭记和坚持党的领导、党的建设这个根和魂,始终坚持正确的政治方向、
期刊
英国法律文化传统对宪政有极为深刻的影响,深入研究英国法律文化传统,是认识英国宪政的一条重要途径.本文着重分析英国法律文化传统中的法律观念传统及其对宪政形成的影响,从
腰-硬联合麻醉(CSEA)是临床下腹部以下手术应用较多的麻醉方法,具有起效快、可控性相对较强、机体损伤度小、阻滞满意等优点,但易出现腰痛、头痛、穿刺点压痛等并发症[1],其