蓝鲸集群文件系统元数据服务迁移性能优化研究

来源 :中国科学院大学 | 被引量 : 0次 | 上传用户:hnzzzc
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,元数据集群文件系统中元数据服务负载不均衡现象时刻发生,严重影响系统性能和功耗,作为元数据服务均衡的基础机制,元数据服务迁移技术成为当前研究热点。蓝鲸集群文件系统(BWFS_pNFS)元数据服务迁移机制性能低下的原因有两点:一是元数据服务迁移时间与状态数目成正比,在状态数目普遍较多的场景中,迁移时间开销过高;二是元数据服务迁移过程中,客户端请求重定向存在不必要等待时间开销,阻塞后续文件系统访问。针对以上问题,本文以BWFS_pNFS为基础,研究元数据服务迁移性能优化技术,提出蓝鲸集群文件系统的快速元数据服务迁移机制。该机制包括基于动态Compound RPC的快速状态服务迁移机制和基于异步RPC的客户端状态请求重定向机制。测试表明,本文工作能显著提升BWFS_pNFS元数据服务迁移时系统整体性能。本文工作和贡献如下:  本文提出并实现基于动态Compound RPC的快速状态服务迁移机制。聚合状态同步过程中的单次迁移粒度,减少元数据服务器(MDS)间网络交互次数,使得迁移时间与状态规模无关,从而降低MDS间元数据服务迁移时间开销。测试结果表明,MDS间元数据服务迁移性能可最高提升88.9%。  本文提出并实现基于异步RPC的客户端状态请求重定向机制。元数据服务迁移时,本机制将客户端close、layout_return两类状态请求中部分RPC交互过程和全部重定向阶段异步化处理,减少后续操作阻塞时间,从而提升元数据服务迁移过程中的客户端访问性能。测试结果表明客户端单个close状态请求重定向性能提升84%,文件系统混合操作整体性能提升8%。  本文针对BWFS_pNFS元数据服务迁移性能低下的两大问题提出解决方案。理论论证和测试数据表明蓝鲸集群文件系统的快速元数据服务迁移机制可有效提升BWFS_pNFS元数据服务迁移时MDS和客户端的性能。
其他文献
流量测量分析通过捕获链路流经的数据包,获得不同协议层次的流量与性能指标,为网络体系结构与协议研究、网络系统设计规划、网络管理与运维提供重要依据。随着互联网体系结构演
随着EAST(Experimental Advanced Superconducting Tokamak)托卡马克实验装置的不断升级和等离子体放电参数的不断提高(LHCD和NBI加热功率分别达到了3.5MW和2.6MW),获得的等离子体
近年来,随着分布式数据库系统在各个领域的广泛应用,越来越多的高校和企业构建了自己的数据中心,以集成单位内部各部门的数据,解决制约单位信息化建设的“信息孤岛”问题。而如何
随着因特网的快速增长,许多的新型应用不断涌现,并且很多应用对于网络传输服务质量的需求越来越强烈。然而,起源思想简单、处理方式单一的IP路由体系已经很难适应越来越苛刻的业
实践十号卫星上搭载了众多载荷,用于进行空间科学实验。为保证载荷的可靠性,在发射之前,需要进行大量的地面匹配实验。本文设计实现了一套控制系统仿真软件,用于载荷地面实验
IPv6协议簇中路由协议的正确性保证是下一代互联网研究的重要课题。一致性测试是一种有效地检验其实现正确性的方法。由于IPv6路由协议具有行为与消息相互依赖的特点,集成数据
编译优化是现代编译器不可缺少的重要功能。编译优化技术在过去几十年里取得了显著进展,对提升程序运行速度、节省存储空间、节省能耗等起到了不可替代的作用。然而,编译优化的
无监督学习是机器学习中的一个经典任务,主要包括聚类和降维技术。近年来,谱聚类和谱嵌入方法由于其卓越的性能和完整的理论框架,受到了研究者密切的关注,并成为现代无监督学习方
手绘草图是一种自然而直接的思路外化和交流方式。用户传统使用草图的方式为先用草图记录早期想法,想法成熟时转化为正规电子文档,这样存在着冗余性和低效性的问题。随着笔计算
Java虚拟机作为Java运行环境的核心,已成为现代计算机平台不可缺少的组成部分。Java虚拟机和平台间的兼容性直接决定了上层Java程序的运行的稳定性。龙芯2E是由中科院计算机研