面向海量用户的云存储系统的设计与优化

被引量 : 0次 | 上传用户:fencer_2000
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术不断进步、移动网络的普及,个人用户的数据量迅猛增长,对云存储服务需求度急增,众多知名企业纷纷投入到个人用户云存储服务的研发与运营中,如Google, Microsoft, Drupbox,联想,金山,华为,百度,电信运营商等。在这些优秀产品中,大多数采用的策略均是以Hadoop HDFS作为基础文件系统进行二次定制开发。开源的Hadoop HDFS以其优异的架构设计与高可扩展性、可用性、可靠性、容错性、经济性及出色的性能风靡全球,成为了热点研究领域。然而,HDFS自身尚有诸多不足尚待解决,如NameNode单点瓶颈、小文件处理能力不足、冗余文件缺乏引用、缺乏用户层负载平衡、不支持文件的断点续传、系统安全性弱、缺乏数据加密存储及共享授权机制等问题。HDFS现存的这些不足可以从两个方面去弥补:第一,对HDFS的源码进行修改,即从内部对其进行完善;第二,在HDFS上增加一层服务层,即将部分功能剥离出来,简化HDFS本身的功能。第一种方式需要对HDFS做重大修改,工程量大、难度高、不能向后兼容HDFS版本,并且不能有效解决单点瓶颈、断点续传、文件加密授权等问题。第二种方式束缚条件少,难度低,工程量小,能兼容各种HDFS版本,更重要的是,此方式构建的云存储系统具有很大的改进空间,可以解决这些问题,具有很强的可扩展性,所以本文采用的是后一种方式。本文着重分析了现有的HDFS架构,并在此基础上构建了一套面向海量用户的云存储系统架构,该架构为HDFS存在的诸多问题给出了优化解决方案,并能确保数据安全及用户隐私保护。本文的主要创新点如下:1.提出了一个基于HDFS的海量用户云存储系统架构并分析了此架构的优势:有效地缓解了单点瓶颈问题、增强了系统的安全性与可扩展性、支持多种访问协议、兼容HDFS各版本等。2.提出了一套完整的系统安全保护机制:第一,提出了一种能抵抗木马环境的客户端登录验证方法以增强用户帐户的安全性;第二,提出了一种文件的加密存储与分级授权管理办法以确保用户数据安全,并能方便文件授权的分发与回收;第三,给出了适用于云存储服务的访问控制策略,从而能够更好地保证访问安全。分析表明,该机制不仅能提升系统的安全性,而且能实现用户隐私保护及安全访问控制。再配合使用SSL/TLS进行加密通信,系统整体安全性得到极大增强。3.给出了应用服务器间负载均衡的调度机制以实现用户层访问请求的负载均衡。应用服务器可随时加入或退出集群,避免了单点故障问题。访问请求的均衡调度与应用服务器的缓存管理相互配合,能够有效地提升系统性能及负载能力。4.针对HDFS与海量用户特性提出了对应的优化方案。例如:增加断点续传功能,对小文件进行打包存储,对大文件进行冗余引用处理,为应用服务器增加缓存,将文件的容器结构与HDFS结构映射等。与原HDFS系统相比,本文提出的方法在增加系统功能的同时,能够提升系统的性能及安全性。
其他文献
汤亭亭是美国华裔文学繁荣时期最有影响力也是最具代表性的女性作家之一。20世纪70年代美国华裔文学日益受到学术界的关注且好评如潮,这些是与汤亭亭的文学成就紧密相关的。
一、设计思路本课以学生的自主、合作、相互评价为主线,努力为学生创造一个宽松的学习氛围。在排球的整个教学中,教师通过组织、指导学生的学练及评价起引导的作用,而学生通过相
<正> 98岁末专注于酒店软件开发的中软好泰公司与IBM联合面向酒店业推出“21世纪酒店信息化管理全面解决方案”,IT行业代言人与酒店业颇具实力的应用系统软件的联盟试图将旅
河西走廊地区广泛分布着粗颗粒硫酸盐渍土,对该地区建筑物、构筑物,农业等方面都造成严重影响。目前,国内学者对细颗粒土的盐胀变形规律的研究已较为深入,以利用回归正交设计
<正>护理人员在工作中同社会、医院、人群所发生的人与人之间的交往关系,称护理人际关系。护理工作中的人际关系有护士与病人、护土与病人家属、护士与医生、护士与护士、护
煤层开采后,采空区上覆岩层内产生离层现象,注浆充填离层可以减小地面沉陷,覆岩高层注浆减沈效果受离层带地层条件、离层围岩透水性和工程地质特性的影响,表现为离层的形成、宜于
将新疆和田地区磨细火山岩粉作为掺合料,应用于发电厂尾水重力挡墙的实际混凝土工程中,为了对比研究其中火山岩粉混凝土与粉煤灰混凝土温度线膨胀系数及自生体积变形的异同,
目的:观察中药熏蒸对初产妇哺乳期乳痈的临床疗效。方法:将80例哺乳期乳痈患者随机分成试验组和对照组各40例,试验组给予中药熏蒸加按摩治疗,对照组给予按摩治疗。观察两组患
PDEODE策略(预测—讨论—解释—观察—讨论—解释)是在POE教学策略的基础上进行改进的新型教学策略。基于PDEODE策略的分析,学生自主探究型化学课堂可分为六个环节:"创设情境
黔西南地区是我国重要的卡林型金矿床矿集区,其大地构造位置处于扬子准地台西南缘与华南褶皱系右江褶皱带之交接部位。金矿床的赋矿地层为二叠系及三叠系碳酸盐岩、硅质岩、