论文部分内容阅读
随着信息技术不断进步、移动网络的普及,个人用户的数据量迅猛增长,对云存储服务需求度急增,众多知名企业纷纷投入到个人用户云存储服务的研发与运营中,如Google, Microsoft, Drupbox,联想,金山,华为,百度,电信运营商等。在这些优秀产品中,大多数采用的策略均是以Hadoop HDFS作为基础文件系统进行二次定制开发。开源的Hadoop HDFS以其优异的架构设计与高可扩展性、可用性、可靠性、容错性、经济性及出色的性能风靡全球,成为了热点研究领域。然而,HDFS自身尚有诸多不足尚待解决,如NameNode单点瓶颈、小文件处理能力不足、冗余文件缺乏引用、缺乏用户层负载平衡、不支持文件的断点续传、系统安全性弱、缺乏数据加密存储及共享授权机制等问题。HDFS现存的这些不足可以从两个方面去弥补:第一,对HDFS的源码进行修改,即从内部对其进行完善;第二,在HDFS上增加一层服务层,即将部分功能剥离出来,简化HDFS本身的功能。第一种方式需要对HDFS做重大修改,工程量大、难度高、不能向后兼容HDFS版本,并且不能有效解决单点瓶颈、断点续传、文件加密授权等问题。第二种方式束缚条件少,难度低,工程量小,能兼容各种HDFS版本,更重要的是,此方式构建的云存储系统具有很大的改进空间,可以解决这些问题,具有很强的可扩展性,所以本文采用的是后一种方式。本文着重分析了现有的HDFS架构,并在此基础上构建了一套面向海量用户的云存储系统架构,该架构为HDFS存在的诸多问题给出了优化解决方案,并能确保数据安全及用户隐私保护。本文的主要创新点如下:1.提出了一个基于HDFS的海量用户云存储系统架构并分析了此架构的优势:有效地缓解了单点瓶颈问题、增强了系统的安全性与可扩展性、支持多种访问协议、兼容HDFS各版本等。2.提出了一套完整的系统安全保护机制:第一,提出了一种能抵抗木马环境的客户端登录验证方法以增强用户帐户的安全性;第二,提出了一种文件的加密存储与分级授权管理办法以确保用户数据安全,并能方便文件授权的分发与回收;第三,给出了适用于云存储服务的访问控制策略,从而能够更好地保证访问安全。分析表明,该机制不仅能提升系统的安全性,而且能实现用户隐私保护及安全访问控制。再配合使用SSL/TLS进行加密通信,系统整体安全性得到极大增强。3.给出了应用服务器间负载均衡的调度机制以实现用户层访问请求的负载均衡。应用服务器可随时加入或退出集群,避免了单点故障问题。访问请求的均衡调度与应用服务器的缓存管理相互配合,能够有效地提升系统性能及负载能力。4.针对HDFS与海量用户特性提出了对应的优化方案。例如:增加断点续传功能,对小文件进行打包存储,对大文件进行冗余引用处理,为应用服务器增加缓存,将文件的容器结构与HDFS结构映射等。与原HDFS系统相比,本文提出的方法在增加系统功能的同时,能够提升系统的性能及安全性。