冷数据存储系统的去重技术研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:intangibly
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,合理配置的冷数据存储系统因为低能耗、低成本的优点而被广泛应用于存储冷数据。重复数据删除技术可以减少系统冗余数据,进一步降低冷数据存储系统的成本。但是传统的重复数据删除技术没有组的概念,进行全局去重会把一个文件的数据块存储在不同组中,恢复文件时需要依次轮流启动相关的组来读取数据块,造成不可接受的读取延迟。因此,利用合适的方法完成数据去重,对于降低冷数据存储系统成本、维持读取性能具有重要意义。针对以上问题,提出了基于组内去重和组间去重的双重去重方法,主要工作如下:(1)基于分块的去重方法对组内文件进行在线去重,并将文件谱和容器分别存储在文件谱盘和磁盘组内,使分析文件谱不用启动磁盘组,从而提升组间去重的性能。(2)统计组间相同数据块,对组间数据进行测试及分析。结果表明,组间冗余数据中包含大量相同或相似文件。(3)重写相同和相似文件到另一个组,完成线下组间去重,并提出了适合Destor的垃圾回收方法。(4)设计了一个基于双重去重的原型存储系统Cold Destor。该系统包含Name Node、组内去重和组间去重三个模块,实现了组内去重、确定组间相同/相似文件、重写相同/相似文件、垃圾数据回收、文件恢复等功能。双重去重方法可以保证文件整体存储在一个组内,不影响文件的恢复性能。测试结果表明,在冷数据存储系统中应用双重去重技术相比于没有应用去重技术可以节省39%以上的磁盘空间。与全局去重相比,文件读延迟可以降低43%以上,并且随着组数的增加,读延迟降低的幅度更大。
其他文献
在小说《狂人日记》中,鲁迅将封建社会中的文化称做是吃人的文化。这样的一种思想在当时是富有历史、突破性意义的。小说运用象征性的手法进行叙述,升华了小说的思想,在中国文学史上有着不可替代的重要作用。本文对这部小说的叙述风格和创新意识进行分析,以更好地品读这部作品。
近年来,我国的网络公共领域日趋成熟。社会公众通过网络公共领域参与政府事项、表达诉求的意识和能力越来越强。一些社交媒体平台在公众意见建构、议程设置模式、公共领域形成和公民意识培养等方面起到越来越突出的作用,尤其是短视频平台以其亲民的特点深受公众的追捧。与此同时,面对互联网+政务4.0时代的到来,各级政府也越来越将短视频平台作为舆论宣传和公共服务的新阵地,与民众主动对话,促进政府信息公开。本研究从公共
Docker凭借诸多优势成为云计算中的主流技术之一。因此,Docker容器的稳定可靠运行成为云计算领域的一个关键点,而当前主要采用人工设定阈值的容器监测技术在容器的数量庞大和容器内应用类型多样的情况下难以投入使用。另外,容器异常监测系统的实时性同样有很高的要求,容器的可靠性要求必须能够及时定位容器内的异常。根据当前Docker容器异常监测技术的难点,通过基于预测的异常检测算法来对Docker容器资
大数据和人工智能已成为社会技术发展的主要着力点和研究方向。在信息共享的时代,无论是互联网公司,还是科研机构都致力于研究能够帮助社会发展、保证社会稳定的新技术。在这些应用中,图像、视频等视觉数据起到重要作用。计算机视觉等任务在社会发展中应用也越来越广泛。在人工智能发展与普及的同时,一些涉及到敏感信息的数据却没有得到很好地管控,信息被大量外泄和滥用使个人或公司的隐私权益受到侵犯。如何在合理使用视觉数据
作为互联网时代重要的短视频平台,抖音平台在新闻短视频传播方面有着“画像—推送—转发”这一链式传播机制,即抖音平台根据用户侧写的画像,对用户关心的内容进行筛选,并通过推送的模式进行第一层次的传播,之后通过用户在平台上的点赞、关注、评论和转发,实现新闻短视频的二次传播。抖音平台的新闻短视频传播机制能够有效地捕捉用户习惯、保证头部流量视频叠加传播量,但同时也容易形成信息茧房等信息封闭性问题。
目的 探讨卵巢高反应患者新鲜周期选择性单卵裂期胚胎移植的临床应用价值。方法 回顾性分析2015年1月至2020年9月在我院行体外受精-胚胎移植(IVF-ET)治疗的卵巢高反应患者的资料。根据移植胚胎类型分为两组:行单囊胚移植者(囊胚移植组,153例);行选择性单卵裂期胚胎移植者(卵裂胚移植组,83例)。比较两组患者的基本临床资料、促排卵治疗情况及临床结局。结果 两组患者间基本临床资料差异均无统计学
当前微波通信系统正朝着小型化、高频段、高功率的方向发展,在这种情况下,单一的功率放大芯片已经变得难以满足系统的需求,功率合成技术是目前最有效的方法,但是传统的功率合成器体积较大,效率较低,因此,小型化、高效率的功率合成器是目前重要的研究课题。本论文利用芯片微组装工艺技术,并结合低插损的径向波导功率合成技术,在波导腔内进行多路放大器合成,克服了传统二进制波导级联功率合成技术在多路功率合成时损耗过大的
百年大计,教育为本。中国人口受教育程度是衡量中国教育事业发展的重要指标之一。1999年高校扩招,由此我国高等教育事业蓬勃发展。因此,本文第二部分首先整体分析了 2000年、2010年以及2019年中国受教育程度构成、平均受教育年限、文盲率。接下来,依据以上三个指标,对中国各省市以及男女受教育程度尤其是受高等教育人口差距进行分析。结果显示,中国人口受教育程度水平整体提高;省市间差距一直比较明显;性别
随着新媒体的快速发展,传统新闻媒体需要顺应时代发展潮流,不断创新新闻传播方式,如此方能走得更稳、更远。短视频是一种新媒体传播消息的形式,对传统媒体转型发展也有所助益。本文将分析传统媒体新闻短视频的发展现状,以及新闻短视频在传统媒体创新发展中的作用,并提出短视频助力传统媒体转型发展的具体举措。
认知功能是大脑表现出来的对信息进行加工、储存和提取的能力,在青年学生的学习和科研中起到了极其重要的作用。高等教育环境下的青年学生可能面临着各种学业压力或焦虑的情绪,长期处于压力状态会对其认知功能产生消极影响,甚至会导致各种心理疾病的产生。可见,青年学生的认知功能对其发展极其重要,选择合适的干预促进青年学生认知功能的发展具有重要意义。瑜伽冥想作为一种身体放松,提升心灵境界的方法,简便易学,易于接受,