基于FUSE的云数据访问与存储优化研究

来源 :华南理工大学 | 被引量 : 0次 | 上传用户:yp7611
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
传统互联网模式中,企业所需求的计算和存储资源需要提前进行预估。不同企业业务规模大小不同,对资源需求量也存在较大差别。同时,企业都会储备一定额外的资源,用于高峰期可能发生的业务增长,但这些资源往往无法得到充分的利用,增加了企业的隐形成本。云计算时代,随着云存储技术的出现,资源利用率得到了极大的提升。本文基于用户空间文件系统FUSE,使用HDFS作为底层存储方式,提出了一种新的云数据访问与存储方案,并对其进行了一系列优化,主要包括:1)针对云存储系统中大规模数据并发访问的问题,设计了一种新的负载均衡算法,该算法根据后端服务器集群中节点的CPU、内存、磁盘资源占用等指标来计算其负载程度,同时将其实时反馈给调度器,调度器随后对该节点的权值进行动态调整,以实现服务器资源的高效利用。2)针对FUSE访问HDFS存在性能瓶颈问题,本文通过分析FUSE源代码,结合Linux文件读写过程,分别从减少CPU上下文切换时间、采用直接I/O代替缓存I/O、开启部分元数据缓存三个角度对云存储方案的读写性能进行优化。实验表明,提出的优化方案带来了约20%的性能提升。3)为了提升云存储方案安全性,本文基于文件属性,实现了细粒度的文件访问控制机制。系列实验结果表明,优化以后的方案,从性能、可用性和安全性方面来看都有更好的表现。除了对已有方案进行优化外,基于优化后的方案,本文还实现了一个完整的云存储系统,并应用于大数据分析平台中,处理日均数百TB级别数据的访问和存储。总体上看,本文所提出的方案,在实际应用过程中,充分解决了业务方在数据存储方面的痛点。同时,也适用于各种不同的应用场景。
其他文献
随着云计算的发展,产生了面向组件服务的云应用系统。云应用系统以业务流形式向用户提供服务,而不同的业务流中的不同任务被分配到不同的组件服务上,这些组件服务共同构建应
随着信息技术的高速发展和智能手机的普及,基于手机的室内定位技术逐渐成为研究的热点。目前在室内定位技术中,基于地磁匹配(MagneticMatching,MM)的室内定位方法,无需额外设
主从式遥操作微创手术机器人是国内外医疗领域的研究重点。微创手术可以为患者和医生带来诸多好处,如切口小、手术时间短、恢复时间快等。力反馈是当今微创手术机器人的研究
智能终端的普及与无线网络技术的进步推动了实时流媒体业务的蓬勃发展。如何通过多模终端的无线网络接口,利用多路径传输技术并发传输数据,为实时流媒体业务提供高质量的传输
目前,OCR技术对简单版面的分析已经解决并得到了一定的普及,然而随着信息时代的到来,文本图像的版面已经不再是简单的文字和图形的组合,而是涵盖了文本、表格、图形和图像等
随着社会经济的不断发展、科学技术水平的不断提升,互联网上的数字视频正不受限制地增长并且逐渐成长为一种新型的力量。这些视频大多数存储在非结构化的存储库中,因而对图像
纸介考试,作为课程评价过程的一个重要环节,是对课程和教学质量进行反映和评估的重要手段。现行的纸介考试多数根据外在的客观标准进行评价,在评价的过程中往往是外在的标准
人体行为识别是计算机视觉研究的一个重要课题,有着巨大的研究价值和广阔的应用前景。目前,它的应用主要集中在智能安防、病患监护、人机交互等领域。传统的人体行为识别研究
数字时代的到来和信息技术的发展,使得数字图像凭借它快捷、廉价的优点,在成像效果与成本间获得良好折中,逐渐取代了以往的胶片图像。为了满足不同需求,方便处理图像,各种图
随着物联网、云计算、大数据的发展和应用,全球数据量正在以前所未有的速度呈现出爆炸式的增长。为了满足数据业务飞速发展对海量存储数据的需求,存储系统应用多级闪存(MLC)