Spark和Shark的大数据技术在供电企业的应用研究

来源 :中国电业(技术版) | 被引量 : 0次 | 上传用户:gusano1987
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着电力信息化的深入发展及移动互联网的普及,电力业务的数据结构日益复杂,数据规模呈现海量增长趋势,使得原有基于传统关系型数据库的数据处理平台出现严重的瓶颈,处理能力越来越难以满足日常的生产管理和经营决策的需求。文章通过采用基于内存计算的Spark,替代Hadoop中低效的Map Reduce,并借助基于Spark之上的Shark,构建一个Hadoop+Spark+Hive+Shark海量数据高效的处理平台,相对于传统的关系型数据库和Hadoop处理平台,性能提高了20倍以上,完全满足了电力生产的性能需求。
其他文献
复杂地层的护壁堵漏问题一直是钻探工程方面需要解决的课题,而该问题直接影响矿产等资源物资的开发和利用效果,因此该问题的解决对于目前资源稀缺的情况下,有着巨大的现实意
天顺公司隶属永州市烟草公司的大型中央烟叶复烤企业,已经有20多年的生产经营历史,是全国首家国外引进COMAS打叶复烤设备的烟叶复烤企业。目前,该公司拥有12000KG/H的打叶复
目的:观察保肾片对新进入透析的尿毒症患者残余肾功能(RRF)的影响,探讨中医药保护透析患者RRF的作用。方法:2008.12—2009.11在南京中医药大学附属医院肾内科住院及血液净化中
<正>一、当前中小学教师继续教育中存在的问题当前,教育"十二五"规划已制定、实施,要全面落实教育规划纲要就要进一步推进教育改革。在教育改革的过程中,教师的素质成为关键
目的:观察使用气血双补的中药方剂治疗缺铁性贫血患者的临床疗效,探讨可能的作用机制。方法:选择50例符合诊断标准(参照第6版的《内科学》缺铁性贫血诊断标准而制定)的IDA患
将自适应加权中值滤波器应用于滚动轴承故障信号的故障诊断中。当信号中含有多种噪声时,让信号先通过自适应加权中值滤波器,再通过线性带通滤波器,对降噪后的信号进行包络解
<正> 在数学教学中,发展学生思维能力的问题,具有头等重要的意义。已经引起了各方面的关注。对此想根据我们接触到的材料和经历过的教学实践,谈一些看法。一什么是数学思维能
目的:1、了解闽南地区慢性乙型肝炎(chronic hepatitis B, CHB)中医证型分布规律。2、研究CHB中医证型的人口学和生物学基础,揭示不同中医证型所蕴涵的免疫功能状态,为提高中
国际21世纪教育委员会向联合国教科文组织提交的报告把“学会合作”看作是面向21世纪的四大支柱之一,强调“教育应在其计划中留出足够的时间和机会向青年人传授这类合作项目
沈阳地铁新乐遗址站为暗挖车站,采用管幕预筑法施工。管幕预筑法是在传统的管幕法基础上改进形成的。管幕预筑法所使用的钢管直径大,可以达到2米以上。在顶进的钢管保护下人