基于纠删码的容错存储系统中数据布局优化

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:revire
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
大规模存储系统出错成为常态,纠删码技术广泛应用于存储系统中,以提供低存储开销的容错能力。然而,纠删码在存储系统中的数据布局,即块与存储设备之间的映射,与容错存储系统的可扩展性、可靠性、修复性能等指标有着紧密的关联。本文从数据布局的角度出发,在扩容(块的重新映射)算法设计、提高系统可靠性方案、高效故障修复策略三个方面展开研究。主要的研究内容与贡献如下:·提出基于部署Parity Declustering数据布局的磁盘阵列存储系统的高效扩容方案PDS(Parity Declustering Scaling)。PDS利用平衡不完全区组设计(Balanced Incomplete Block Design)定义数据迁移,实现了扩容所需数据迁移量最小,扩容后仍保持Parity Declustering数据布局,以及数据块与校验块的均匀分布。实验结果表明,PDS可有效缩短扩容时间和扩容过程中用户响应时间。·提出基于PDS数据迁移的提高磁盘阵列容错能力方案,以支持PDS扩容方案提高系统可靠性。PDS通过在条带中添加校验块来提高容错能力,并利用平衡不完全区组设计定义新加块在磁盘阵列中的放置,实现了提高可靠性后仍保持Parity Declustering数据布局,以及数据块与校验块的均匀分布。实验结果表明,提高可靠性的PDS扩容方案仍可有效缩短扩容时间和扩容过程中用户响应时间。·提出基于纠删码容错的分布式存储系统中面向高效故障修复的数据布局方案D3(Deterministic Data Distribution)。D3利用正交阵列(Orthogonal Array)定义块在机架和节点之间的放置,实现了数据块与校验块的均匀分布,以及在单节点故障下修复流量的负载均衡。此外,对于可容单机架故障的数据布局,D3修复单节点故障所需跨机架修复流量最小。实验结果表明,D3可显著加快单节点故障修复过程。
其他文献
长期以来对戏曲音乐体制的命名 (含分类 )众说纷纭 ,如 :“板腔体”、“板式变化体”、“曲牌板腔体”……“曲牌板式变化体”说 ,试图使中国戏曲音乐体制的命名 (含分类 ) ,
随着我国石油化工行业的迅速发展,含油污水处理、回用技术越来越受到人们的重视。延安石油化工厂污水处理能力为400m~3/h,处理后的污水水质达到《污水综合排放标准》。但是在
针对轴套表面裂纹受力复杂、不易进行理论计算的问题,开展了基于ANSYS Workbench的裂纹有限元仿真方法的研究,得到了轴套表面裂纹应力分布与裂纹尺寸和过盈偏差的关系,以及应
中央电视台大型直播体育节目《足球之夜》开创了一个范例 :从报道国内外足球赛场风云 ,延伸到透视足球的战术、技术要求 ;从比赛结果的胜负 ,发展到评论足球运动员的能力 ,教
道虽无名而无所不在。故君有君道,士有士道,画有画道。君得道可保其国,士得道可善其身,画人得道可娱其心、享其名。然民国以降,习画者纷纷,成家者寥寥,何也?窃以为丹青虽属小道,然墨里
<正>"不断掌握新知识、熟悉新领域、开拓新视野,增强本领能力,加强调查研究,不断增强脚力、眼力、脑力、笔力",这是习近平同志对宣传思想干部的谆谆教诲、殷殷期待。广大宣传
期刊
<正>某石化工厂,通过数据分析将4小时反应石油收率提高了0.3%~0.5%,一年创造收益几千万甚至上亿。同时,操作异常检出率提升了33%,并将故障报警提前了10分钟。在钢铁生产的质量
三维形状分析是三维模型检索的关键问题.提出一种基于三维模型部件空间分布的形状特征描述方法.此方法的主要思想是依据认知心理学的理论,在描述对象形状时强调它的结构属性.首先
按中医函授教学计划的安排,本学期将开设《内经选读》课。鉴于《内经》这部经典著作产生的年代久远,词丈古奥,文法艰涩,面授时间较少,自学有相当的困难。为此,我们一方面请本
<正>"走课"是教师在有意识的状态中,通过备课组的集体备课,平行班级(平行班便于内容的衔接性与承接性的预设)的教师选择自己最具有优势的教学内容执教同一级部的部分班级。走