Hadoop平台下自响应故障感知的检测技术研究实现

来源 :计算机测量与控制 | 被引量 : 0次 | 上传用户:mai120117
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
当今云计算环境下,Hadoop已经成为大数据处理的事实标准;然而云计算具有大规模、高复杂和动态性的特点,容易导致故障的发生,影响Hadoop上运行的作业;虽然Hadoop具有内置的故障检测和恢复机制,但云环境中不同节点负载大小的变化,被调度的作业仍然导致失败;针对此问题提出自响应故障感知的检测调度方法,对异构环境负载能力的不同,而做出服务器快节点和慢节点的判断,把作业分配调度到合适的节点上执行,调整任务决策来尽可能的防止任务失败的发生;最后在Hadoop框架下与基本调度器进行实验性能比较,结果显示该方法减
其他文献
养殖污染早已成为农村、农业污染重点。福建省永定县招宝公司生态农庄年产各种珍禽、野猪、野兔、白鹜鸭等200多万只,是全国最早养殖珍禽,规模最大的专业化珍禽养殖企业之一
随着智能电网发展和电力终端设备智能化和网络化的提升,基于TCP/IP协议的数据通信面临着传统的网络安全隐患;智能电网单元是电网控制的关键组成部分,负责电网业务数据的采集
为了提高火箭弹攻击地面目标的精度,文中给出了一种基于落点预测的火箭弹导引方法;首先以某型火箭弹为例,建立了其运动方程组,然后简化处理弹道方程得到落点预测模型,设计了
针对目前地理信息系统对地理位置不能实时掌握,缺乏自组网管理等方面的问题,采用WebGIS技术构建物联网环境下的地理信息管理系统;利用OpenStack云计算平台建立信息传感网,采用Web技术进行地理信息系统GIS的网络组网设计,实现了对地理信息的对象存储、虚拟计算服务以及远程调用和监控等操作;在系统测试中通过对地理位置定位模拟,验证该系统的有效性,测试结果表明,采用该系统进行地理信息管理,对地理位
为降低大数据云中心的能量消耗和实现资源的优化配置,提出一种虚拟机资源高效分配策略;提出的策略对选定的特征上具备相似性任务分组的聚类进行定义,将各组任务映射到定制化
EM是“有效微生物”(effecive microorgani sms)的英文缩写。它是日本琉球大学比嘉照夫教授研制出来的新型复合微生物菌剂。这种菌剂是由光合细菌、放线菌、酵母菌乳酸菌等10
针对云存储环境下多副本方案存储效率低下的问题,设计了一种高效的数据安全存储策略;该策略采用了并行思想,设计了高效的数据同步存储算法;该算法将用户的存储请求同时转发给
电气开关在合闸及分闸过程中瞬间产生的插拔力对开关的性能至关重要;针对测量和分析开关瞬态插拔力特性的问题,提出了一种基于USB技术的高速数据采集的新型插拔力测试系统;对测试要求进行分析后给出了该测试系统的方案:底层数据采集模块由AD模数转换器、FIFO、USB接口驱动器等功能块组成,主要完成测试信号的转换、缓存、数据上传对接等功能;上位数据处理系统采用了虚拟仪器(VI)技术,在LabVIEW环境下经
针对目前在蓄电池内阻检测中被广泛采用的锁相放大法存在硬件电路复杂、成本较高、操作复杂等问题,提出采用特征分解谱估计的方法来替代蓄电池内阻检测中的锁相放大环节,以软件
针对低温试验系统制冷设备测点多、数据间存在强相关性等特点,将主成分分析法和遗传神经网络智能识别方法进行组合,引入制冷系统的故障诊断中;结合专家经验和主成分分析客观