基于云存储的数据存储系统的设计与实现

被引量 : 29次 | 上传用户:zhanbusha
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的迅猛发展,数据的存储占有越来越重要的地位。在数据呈指数级增长的今天,由于容量、价格和安全性的限制,本地的存储已经逐渐力不从心。这使得由分布式文件系统所支持的云存储的应用越来越广泛,其中Hadoop distributed file system(HDFS)因其强大的容错能力和可扩展性而得到了人们的广泛关注。但由于其设计是仿照Google File System(GFS),因此其只是对搜索引擎应用的支持比较好,要想应用于一般性的分布式存储,还需要一些研究和改进。在搜索引擎的应用中,文件大部分都是以大文件的形式存在的。而在一般性的存储中,文件的大小是多种多样的。而且由于HDFS单一名字节点(Namenode)的性能瓶颈问题,在文件分块太多的情况下,其对数据的访问会变得比较糟糕。因此,尽管HDFS具有很多先进的特性,但其设计的初衷就决定了其不是一个普适的分布式文件系统,而只能支持很有限的应用。本文的目的是设计和实现一个用于云存储的普适的分布式文件系统。首先提出了一种多Namenode的分布式文件系统的架构。文件的元数据由多个Namenode分布式的存储,并且名字节点只存储file到block的映射,而block的位置信息由数据节点管理者(DatanodeManager)进行存储,从而降低了名字节点的负载。然后,本文主要针对Datanode集群部分的实现方案和关键算法进行了论述。其中,本文对Datanode集群中的block分块策略进行了重新设计和实现。该策略中,数据块的大小有多个分块的因子供选择,系统根据具体的应用类型和文件的属性等信息灵活的对文件进行分块,从而保证系统能够对于云平台上的各种应用都有良好的访问性能。
其他文献
[目的]从软权力实现途径的视角探讨中医药文化对外传播,促进和推动中医药文化海外发展,增强和提升中国软权力。[方法]基于软权力理论,将是否为对象国或目标国所接受和认同作
在三维实体造型软件Pro/ENGINEER和有限元分析软件ANSYS之间存在着模型数据交换困难的问题,为了实现两大软件集成环境,根据CAD/CAE系统间图形交换的机制,通过理论和实践研究,
X射线计算机断层扫描(CT)技术已广泛应用于临床和工业领域。其中CT重建算法作为CT技术的核心部分,一直是CT成像技术研究的热点。CT重建算法主要分为解析重建和迭代重建。解析
清末民初是中国历史上一个特殊而又复杂的时期,中国社会经历了一场翻天覆地的巨变,在旧制度的逐渐废除到新模式的确立和推广过程中,任何城市都不能脱离时代的巨轮,而是开始了
车险费率市场化的改革对我国财产保险市场、财产保险公司、保险监管部门、车险代理人、车险消费者势必产生的很大影响。为确保财产保险市场健康发展,车险费率市场化改革应分
工程机械如装载机、挖掘机、推土机等常工作于野外偏远地区,远离加油站,且这些机械设备通常是在坡面或崎岖不平的场地工作,很难保持水平,如果燃油箱吸油口设计得不合理,将导
本文主要讨论了张锡纯对于肝气虚见证的阐述,肝虚不仅可引起气血运行的失常(疼痛、出血等),亦可以引起气的升降出入的失调(元气外脱、大气下陷等);并通过对张氏处方及难案的
微博引领Web3.0全媒体时代的到来,微博的裂变式传播改变了传统信息传播模式,实现了信息的快速传播。微博的低门槛、便捷性、平等性以及互动性、多媒体形式等特点为用户提供了
云计算是最近由国内外各大网络公司和科研机构争相研究的一个很有吸引力和竞争力的网络IT应用模式。广义云计算是指服务的交付和使用模式,通过网络以按需和易扩展的方式获得
针对工程机械用传统燃油箱难以充分利用燃油箱中的燃油,特别是在某些极限大坡度工况下,即使燃油箱中仍有1/3~1/2容量的燃油,吸油钢管也无法吸到燃油,导致发动机熄火的问题,结