基于HDFS的华图在线文库系统数据存储与管理研究

被引量 : 0次 | 上传用户:cjh3134
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为用户共享信息的平台,文库系统为用户带来了效率和方便,然而,随着用户数据的增长,使用量的加大,文库资源的形式和种类也越来越多,成指数倍增长的海量数据资源给存储系统带来了难题,如何高效存储和管理这些数据成为急待解决的问题。云存储技术的出现,使高效存储和管理这些海量数据成为可能。本文选取了当前非常流行的云平台Hadoop做为在线文库系统的存储平台,利用Hadoop下的云存储文件系统HDFS存储和管理在线文库系统的文档文件。HDFS只是为了解决一般性的数据存储和管理难题,简单将其应用于在线文库系统不能投入实际的应用,必须作必要的改进。在线文库系统的文档资料一般为word、pdf、txt之类的文本文件,这些类型的文件都比较小,90%以上的文档大小在32KB到20MB之间。HDFS的元数据信息是存储在元数据节点的内存中,因此在存储海量的小文件时,会导致HDFS元数据节点(NameNode)内存的过量消耗,进而降低整个HDFS系统的存储容量,因此本文提出了一种将小文件合并成大文件的存储优化方案,有效地减少了元数据节点的内存损耗。另一方面,考虑到合并后存取速度的折损,本文还提出了一种数据预取机制,该机制包括两级缓存,通过这两级缓存可以大大提升用户文件读取的流畅度,缓解云存储元数据管理节点的压力。图22幅,表3个,参考文献60篇。
其他文献
哈尔滨市作为东北老工业基地之一,国有经济的规模和效益在全市国民经济中占主导地位,国有资产监管工作的调整与改进是一项长期而艰巨的任务。近年来,哈尔滨市国资委积极开展国有
酸化解堵是油田增产的有效措施之一,随着开发技术的发展,近些年阿尔油田会逐步采用酸化压裂方式来增产增效,为减小酸化压裂对原油脱水的影响,提高化学脱水效率,降低运行费用,
在气藏的开发过程中,压力变化是不稳定的,它与气藏、气井和流体的性质有关。因此,通过不稳定试井,可以获得气井、气藏的特性参数。分析这些参数可以预测气藏产能、储量以及气
目的:脑卒中已成为现今严重威胁着人类生命健康与生存质量的常见病与多发病之一,有着很高的发病率、死亡率、致残率以及复发率特点,可以说是导致中老年人死亡与残疾的主要疾病之
目的了解儿童哮喘缓解期肺功能及气道炎症状况,评价肺功能和呼气一氧化氮(FeNO)两种方法监测哮喘缓解期患儿的控制状况,并对二者进行相关性分析。方法选择2010年12月~2013年1月于
亲爱的人类朋友,我叫黄金,化学元素符号为Au,是人类人人都梦寐以求的一种贵重的稀有金属。我在地壳中的含量极低,克拉克值(平均含量)为4ppb,为丰度最低的金属。物以稀为贵,因此
以中小企业为研究对象,将开放式创新能力分解为发明能力、吸收能力、变革能力、连接能力、创新能力和解吸能力,运用结构方程建模实证检验了上述各种能力对创新绩效的影响.研
摘要:高速铁路的高速度、高舒适性、高安全性和高密度连续运营等特点对铁路线路提出严格的要求。桥梁结构作为高速铁路是极其重要的交通运输设施,一旦中断,列车运行将会产生重
爱国主义教育基地真实的记录了帝国主义对中华民族的侵略以及中华人民反对外来侵略的光荣历史。是进行爱国主义教育的绝佳教材。由于特殊的历史原因辽宁地区是全国爱国主义教
目的:目前膝关节单髁置换术(unicompartmental knee arthroplasty,UKA)已被广泛应用于治疗膝关节单间室骨性关节炎,本文主要对膝关节单髁置换术利用第三代牛津膝单髁假体治疗膝