大数据文件存储策略探索

来源 :科技创新与应用 | 被引量 : 0次 | 上传用户:abc135abc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大数据给各行业带来新的发展机遇,面对各种复杂数据处理需求,高效的数据存储是影响大数据应用的重要因素,不仅决定了数据写入效率,还会影响数据读取。文章提出一种基于HDFS的写预处理存储系统,针对大数据应用中复杂数据写请求,使用聚类策略和文件拆分算法,对文件进行预处理,同时提高数据读取效率。通过仿真实验表明,能有效提高文件存储的写吞吐。
其他文献
科技创新发展,推动了行业快速进步。文章主要通过对航测遥感内业数据处理相关问题的分析,对数据处理关键性技术进行探讨并提出切实可行的方法。
AGV技术以其智能、高效、快捷等优势在工业生产中得到了广泛的应用,这在汽车制造业中体现得尤为明显。随着汽车企业中AGV数量的不断增加,随之而来的是多AGV的通讯组网问题,文
在港口生产作业中,起重机是极为重要的设备,对港口货物进行装卸,起重机的运行效果以及效率对于港口经济效益是有直接影响的,因此必须要明确起重机运行过程中可能出现的故障问
研究抗疲劳剂KX-600(活性酚醛树脂和间-甲-白粘合体系复合材料)对钢丝绳芯输送带粘合胶性能的影响。结果表明:对于普通钢丝绳芯输送带粘合胶,随着抗疲劳剂KX-600用量的增大,
2018年10月19日,中国轮胎智能制造与标准化联盟(简称CTIMSA)在青岛隆重召开理事会第二次会议,展示和讨论了《轮胎行业智能制造数据字典》等6项标准初稿。全国轮胎轮辋标准化
"专家型"校长培训是实现"教育家办学"目标的重要途径和具体体现,而"专家型"校长培训的成功与否,课程设计模式是关键。本文建构了一个以"情境模式"为理论基础,全面分析学校和
<正>中国部分省市属于缺锌或亚临床缺锌地区,生活在该地区的人或动物是否因蛋白质不足加剧锌的缺乏值得探讨,为此,本文进行了如下动物实验。选用1日龄至5周令建川鸭180只,随
会议
文中成功将医院的数据信息库与下属医院的信息库有效相结合,建立了庞大的整合数据资源池,并经过一系列的数据抽取、转换和加载为资源的整合做出了有效的准备工作,且最终建立
对纸管高速平带强力层和覆盖胶配方进行优化。结果表明,纸管高速平带强力层采用高模量低收缩聚酯钢化棕丝替代普通聚酯线绳,覆盖胶主体材料采用天然橡胶/丁苯橡胶/顺丁橡胶并
文章概述了医院配电系统的重要性,从7个方面分析了大型综合医院配电系统的设计特点,阐述了医院配电系统维护保养和常见故障,为医院后勤管理人员提供参考,以保障医院配电系统