MaPReduce大数据分析在煤矿的应用研究

来源 :软件 | 被引量 : 0次 | 上传用户:zjbdamo
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
  摘要:MapReduce作为数据处理的概念框架对计算、存储、应用等分布式资源进行大规模可扩展的整合,结合互联网技术为煤矿企业用户提供计算和存储服务并建立安全生产大数据分析系统,这必将成为提升煤矿安全生产的信息手段之一。文中实例是基于HadoopMapReduce大数据系统对矿井瓦斯涌出量进行了预测仿真分析,能为矿井瓦斯治理和安全生产提供了可靠的依据。
  关键词:Hadoop;MapReduce;云计算;煤矿;瓦斯涌出量
  中图分类号:TP311 文献标识码:A DOI:10.3969/j.issn.1003 6970.2016.05.025
  本文著录格式:刘玉海.MapReduce大数据分析在煤矿的应用研究[J].软件,2016,37(5):101-104
  0.引言
  MapReduce作为一个通用且可扩展的并且封装了并行处理、容错和数据本地化等技术难点及细节为一体的模块,能有效的分析处理大数据。让使用者易于实现并行和分布式系统的开发和应用。MapReduce编程模型结合用户的自定义Map和Reduce函数,与大数据存储系统HDFS的结合构成了Hadoop的核心框架,在由大量计算机组成的集群中实现了对大数据的大规模并行化分布式高速运算和存储。煤矿企业生产安全事关重大,将煤矿相关的大数据整合在一起使用分布式高速运算和存储协同工作,为实现煤矿危险预测能起到至关重要的作用,也是煤矿的合理化生产的措施之一。
  1.Hadoop的Map和Reduce
  Hadoop分布式开源软件是一个在大型集群硬件设备上运行应用程序的软件框架,具有可靠、高效、可伸缩的数据处理特点,其基本原理就是把大的数据集合分发到Hadoop集群上的每一个数据结点上,每个数据结点会周期性的返回自己完成的工作状态报告,MapReduce高度优化了用多台计算机解决分布式问题,增加了数据的可靠性。
  MapReduce技术框架包含三个层面的内容:①分布式文件系统②并行编程模型③并行执行引擎。这个处理大数据集的概念框架是由Map和Reduce两个函数构成的,Map函数专用于获取大数据输入并将其分成小片段,以一种独立的方式使这些片段得到并行处理,亦即传递到一组映射函数Map,然后交由其他进程进行操作。Reduce函数整理收集了各个Map回应并显示其输出结果,也就是将Map作为一组输入数据产生键值的集合交给一组还原函数Reduce执行映射表的集合并显示最终的输出。同一程序Hadoop可运行各种语言编写的MapReduce程序。
其他文献
摘 要: 常村煤矿2016年引进北京科技的冲击地压综合监测预警平台,平台整合了矿山已有的几种监测设备,实现其联合监测预警。平台极大提高了分析数据的效率,减少了人工分析数据的工作量,保证了监测数据的及时收集和分析,有利于及时对冲击地压发生做出预警判断,保障矿山安全生产。  关键词: 综合预警;冲击地压;监测应用  【Abstract】: In 2016, Changcun Coal Mine int
期刊
摘要:本文分析了虚拟实验中反馈回路网络的各类组成元素,在网络中创新性地增加了节点的概念,并提出了节点端口关联关系表和元件和端口出入度关系表两种表来表示反馈回路网络的构成。在此基础上,提出了基于事件驱动的虚拟实验反馈回路仿真具体算法。之后,本文将提出的反馈回路仿真算法应用到液压伺服系统虚拟实验的设计中。通过分析电液位置伺服系统实验的仿真结果,最终证明了所提出的算法是正确的。  关键词:虚拟实验;反馈
期刊
摘要:针对视频中局部运动模糊图像复原问题,首先运用RPCA将运动物体从图像中分离出来,用傅里叶变换得到其频谱图,对频谱图进行边缘检测和Hough Trans form,估算出PSF值,然后用维纳滤波进行图像恢复并合成到背景中。从实验结果可以看出,该方法能够很好地分离图像的前景和背景,并将恢复后的前景图像融合到背景中,没有振铃效应产生,取得了很好的复原效果。  关键词:前背景分离;傅里叶频谱;Hou
期刊
摘 要: 建立心脏组织三维模型,模拟了叉指电极与传统矩形电极以及两种结构不同正负电极间距下射频消融特性。结果表明,叉指结构电极消融温度和消融体积明显优于矩形结构电极。利用微喷射技术于球囊导管表面制备电极,经与模拟结构对比分析,打印实物(线宽、电极间距)平均数据与设定数据的误差在5%以内,并且球囊扩张后电极导电效果良好,符合设计要求。  关键词: 微喷射技术;射频消融;有限元分析;电极制备  【Ab
期刊
摘要:基于国产基础软硬件的自主可控技术是建立信息安全的重要保证。为了提高国产平台的业务应用系统的性能,本文提出了应用性能优化的技术,包括典型基础软硬件、数据库、中间件性能的优化,从实验结果看,这些技术提高了业务应用的性能。  关键词:自主可控;示范应用;性能优化  中图分类号:TP29 文献标识码:A DOI:10.3969/j.issn.1003-6970.2015.02.002  0 引言  
期刊
摘 要: 随着教育信息化的发展,深度学习逐渐成为教育领域的热点话题。本文采用文献计量学分析和共现分析方法,运用Cite Space图谱分析软件和Excel软件对2009年至2018年间Web of science核心合集SSCI数据库中的深度学习相关文献进行分析处理,总结了深度学习领域的基本现状以及重要主题和进展,并对国内深度学习研究提出几点启示和建议,以期为深度学习的进一步研究提供有益的借鉴和参
期刊
摘要:准确、及时、高效的气象信息是地方党政领导和决策指挥部门指挥工农业生产、防汛抗旱和防灾减灾等工作的重要科学依据。以提高决策气象服务中气象资料查询检索与分析能力为目的,研发了安徽省决策气象服务支撑系统。该系统由数据库、数据接入、Web网页客户端和后台数据处理系统等4个部分组成,实现了气象数据快速检索查询与绘图、气候资料极值分析、气象灾害查询以及历史灾害性天气个例资料查询等功能。该系统已业务应用两
期刊
摘要:近年来国内网都在积极规划和建设智能电网,而智能电网中配电线路故障定位一直是个研究的热点和难点。其中故障定位的方法有很多,本文主要针对配电网中故障指示器定位的准确性一直没有得到有效的解决,从而设计了一套故障定位算法以及故障定位程序。该算法根据故障指示器定位的原理以及云南电网实际线路情况,通过建立了配电网网拓扑模型,采用逻辑位置标示和故障事件集的概念,通过逻辑分析从而得出故障位置,并且判断故障类
期刊
当前,中国已成为世界工业机器人最大的市场。据统计,今年1-7月我国工业机器人产量已接近7.2万套,同比增长57%。近五年规模增速基本保持在20%以上,成为全球机器人产业规模稳定增长的重要力量。同時,国内市场对工业机器人的需求也持续大幅增长,成为全球最重要的机器人市场。  在研发方面,我国坚持以点带面、小步快跑的原则,一方面抓住优势领域实现快速突破,另一方面强化基础研究推动整体提升。目前,语音识别、
期刊
摘要:应用4G无线网絡通信及嵌入式技术设计了一款无线数采控制器,该数采控制器采用S3C2440作为主控制器。阐述了系统的硬件和软件结构,硬件设计介绍了硬件的构成及功能;软件设计包括Linux嵌入式系统驱动程序开发、调试,应用程序软件的开发、调试等。  关键词:4G无线网络通信;嵌入式系统;数采控制器;S3C2440;Linux  中图分类号:TP929.5文献标识码:ADOI:10.3969/j.
期刊