重复数据删除技术中的并行性能优化算法研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:a351200
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
互联网技术的不断发展以及新兴网络应用的出现,各种重要数据正在以PB级(千万亿字节)的规模逐年增长。重复数据删除技术通过对存储数据流中冗余数据的定位与消除实现了存储资源的高效利用,使其在网络存储和备份系统中发挥着在越来越重要的作用。作为一种计算密集型和I/O密集型的应用,当存储数据量不断增长时,重复数据删除系统的性能主要受到数据块哈希计算和磁盘索引查重两方面的影响。近年来,随着多核(multi-core)和众核(many-core)处理器的普及,如何在并行环境中实现高效的数据块哈希计算和磁盘索引查重,已经成为重复数据删除性能优化研究中的热点问题。目前,重复数据删除技术并行加速方法主要围绕着基于GPU的并行计算和基于多线程的并行磁盘索引查重这两种思想展开。然而,随着并行规模的增加,现有算法存在着一定的性能提升瓶颈,严重影响了当前算法的并行可扩展性。研究通过对GPU并行计算和并行查重算法性能评价模型的建立与分析,导出了并行规模扩大下影响系统性能提升的主要因素。针对两种方法中存在的性能瓶颈,提出了相关的优化算法并通过实际数据的测试证明了算法先进性。在并行系统的性能优化研究中,需要对系统中主要处理环节对整体性能的影响进行详细的量化分析从而找出系统的性能瓶颈。针对GPU并行计算和并行索引表查重两种主要的并行算法,结合其具体处理流程以及其中存在的并发、资源共亨、竞争等因素,研究提出了两种基于随机Petri网的性能分析模型。通过对模型中各处理环节的处理速率和系统利用率的推导计算,得出了影响系统性能主要因素,为并行算法的优化研究提供了理论基础。同时,在后续的优化方法的研究中,通过对实际数据的测试结果分析,分别证明了性能模型推导结果的正确性。在GPU加速的并行分块和指纹计算的处理方法中,主存储器和GPU全局存储器之间的数据传输延时已经成为影响整体计算性能的瓶颈。在传统GPU加速算法中,不同计算环节中对相同数据的重复传输会造成多余的数据传输开销。为此,提出了一种优化的GPU加速算法,该方法通过对传统方法中数据处理步骤的优化处理,能够有效地减少相同数据在主存和GPU之间的重复传输,从而有效地减轻数据传输时延对系统整体性能的影响。由于数据的唯一性的需求,为了防止并行查重线程间的数据冲突,在并行磁盘索引查重方法中需要设计一种线程同步机制。随着并行规模的扩大,现有并行查重方法中采用的锁机制带来了巨大的一致性开销,严重影响了并行查重算法的整体性能。为减少并行查询的一致性开销,同时减少磁盘索引的查询延迟,结合分布式索引表的特点,提出了一种基于数据指纹后缀的并行索引查询优化方法。该方法根据数据指纹的哈希后缀将不同的数据指纹的查询任务加载于不同的查询线程以减少并行线程间的一致性开销。实验表明,该方法能够有效地减少系统I/O延时,相对于传统方法而言,能够有效地提高系统整体性能。
其他文献
为将基于模型的控制器设计方法应用到航空相机像移补偿控制中,本论文研究含有非线性因素的像移补偿系统的线性模型辨识。以某航空相机扫描镜系统为研究对象,从非线性影响程度评
目的 探讨个体化护理干预模式对妇科肿瘤患者术后的影响。方法 选取妇科肿瘤患者80例,随机分为为护1组与护2组,各40例。所有患者接受手术治疗,护1组实施常规护理模式,护2组实
目的:探讨左半结肠癌性梗阻一期切除吻合的可行性。方法:回顾性分析21例左半结肠癌性梗阻一期切除吻合的临床治疗资料。结果:21例均痊愈出院,1例术后第6天出现吻合口漏,切口感染
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
超声造影以及其他影像增强技术已经成为临床诊断疾病的一个重要手段。然而与X线或核磁共振共振增强相比,超声造影的敏感性和特异性有待提高。聚乳酸-羟基乙酸共聚物( PLGA)作为
一天早晨,司汤达打开报纸,忽然看到格勒诺布勒法院公报中记载一件案子: 青年裴尔特在一家很有钱的人家当家庭教师。时隔不久,裴尔特成了这家主妇的情人,然后又在一种嫉妒和
数字管道的建设就是各种数据库和图形库的建设,而数字管道建设中的一些技术给管道工艺和自动化设计带来了一定的变化。通过利用数字管道建设的一些成果,设计人员能够使管道设计
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
目的:探讨简短干预对酒精依赖患者心理渴求和戒断症状的作用,以减轻患者的心理渴求和戒断症状。方法:将50例符合ICD-10诊断标准的酒精依赖综合征患者按照入院时间顺序随机分