并行文件系统缓存技术研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:angel455029998
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
作为集群的I/O子系统,并行文件系统实现对分布在集群内各节点上的文件、设备和网络资源的全局访问,为集群服务器系统设计一个高性能的并行文件系统是很有必要的。利用主存速度和网络带宽、磁盘带宽之间的差异,在主存中实现缓存是提高并行文件系统性能的主要手段之一。PVFS(Parallel Virtual File System)是一个开放源码的并行文件系统。针对PVFS文件访问速度慢、可靠性差等缺点,HPVFS(High performance Parallel Virtual File System)以PVFS为基础平台,实现了多项高可用、高可扩展、文件高速访问方案,其中包括缓存系统。HPVFS的缓存系统包括元数据缓存、计算节点数据缓存和存储节点缓存三种,旨在实现元数据和数据的高速访问。元数据缓存通过改进元数据访问网络协议等措施,对命中的元数据减少一次网络通信,使各有关操作速度得到提升;此外,将脏元数据直接写回元数据服务器,并迅速检查和纠正元数据异常,保证元数据缓存的一致性。采用共享内存方式实现计算节点缓存。每个计算节点都运行一个守护进程申请和管理共享内存缓存空间,应用进程把共享内存映射到自己的内存空间便可以直接访问缓存,减少了进程通信时的内存拷贝次数,实现了节点内进程间数据的真正共享。存储节点缓存关注多个存储节点同时向一个用户提供数据时可能出现的一个严重问题:单一存储节点缓存单独缺失会降低其它存储节点缓存效率。采用存储节点缓存协同置换算法CMQ(Coordinated Multi-Queue)把一些经常同时被访问的数据块归为一个访问组,并对访问组施行整体置换策略,使各存储节点缓存的命中率趋于均匀,从而提升并行文件系统存储节点缓存的整体命中率。测试结果表明,元数据缓存可以使元数据相关操作速度提升一倍以上;计算节点缓存可以使并行读和并行写性能提高30%以上。仿真结果表明,与LRU,LFU等传统置换算法相比,用于存储节点缓存的置换算法CMQ命中率提升可达125%以上。
其他文献
群密钥协商协议允许一组用户在不安全的公共信道上生成共享的会话密钥,在密码学中一直是一个非常重要的研究方向。而在动态群密钥协商协议中,群组中的成员是动态变化的,并且
C++程序中常见的安全漏洞及其静态检测方法的研究是该论文研究的课题,它是C/C++程序安全模式研究的一部分.该文致力于完成C++程序中常见的安全漏洞的查找和分析,以及对这些安
数据仓库是面向数据分析型处理的数据环境,对于异构数据的重新组织和大规模数据的综合分析等问题具有高质高效的处理能力。利用数据仓库来解决以TMN(电信管理网)为代表的综合
近年来,人们对传统Petri网在人工智能中的应用已经进行了大量的研究。但是,随着应用的深入,人们发现传统Petri网有一个缺点,就是不能描述不精确知识。然而,现实世界中大量复
近年来,一些公司或个人为了个人或商业利益,在未经收件人同意的情况下,利用电子邮件发送大量商业广告及各种不良信息,形成影响极坏、后果严重的垃圾邮件。本文主要是针对现今
  随着多媒体技术和计算机网络的飞速发展,全世界数字图像的容量正以惊人的速度增长。这些数字图像包含了大量有用的信息,要利用这些信息就要求有一种能够快速而且准确地查找
计算机网络技术的迅猛发展和多媒体教学的广泛应用,使高校的教学方式和教学手段急需变革,其原因如下:1、由于多媒体教学的应用加大了课堂信息量改善了教学效果但同时也使学生难
源代码的复杂度度量和质量控制是软件质量保证体系中的一个重要环节,它面向源代码进行工作,贯穿于软件开发、代码评审、单元测试、集成测试、系统测试、以及软件维护阶段。
中医学以其几千年的深厚积累,在疾病的预防、诊断及治疗上具备了完善的理论体系和丰富的实践经验。中医的望诊能够最直接的了解疾病或健康的状态,在诊断过程中,面色与舌象对内脏
软件版本演化在软件系统的整个生命周期占有重要地位,帮助软件开发维护人员全面理解和把握整个软件产品的演化过程,辅助进行软件维护决策及维护活动实施,对于大规模、复杂软