并行文件系统Lustre的I/O研究

来源 :东南大学 | 被引量 : 0次 | 上传用户:rongsiyouyu
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
伴随着各种大型应用领域对大数据量存储需求的增长,有限的主存空间无法容纳全部数据,因此利用多磁盘的并行来满足存储容量和I/O性能需求的并行文件系统具有越来越重要的作用。高吞吐量、高I/O带宽、可扩展的并行文件系统将多个结点上的磁盘组织成为全局的存储系统,提供更大的存储容量和I/O带宽,并可以随着系统规模的扩大而扩展。   本文采用的并行文件系统Lustre是一个透明的全局文件系统。客户端可以透明地访问集群文件系统中的数据,而无需知道这些数据的实际存储位置。Lustre并行文件系统采用的并行存储模式对粗粒度I/O性能良好,但在进行细粒度读写时,性能与粗粒度I/O相比,有着明显的低下,因此细粒度I/O性能的优化成为并行文件系统整体I/O性能优化的关键。   本文针对Lustre文件系统,仔细分析了其I/O访问模式、细粒度I/O服务流程、页面替换算法等方面,增加了对细粒度I/O的支持,提出了改进的FGF-LRU方法,在OST端及Client端的页高速缓存中尽量保留细粒度访问的文件页面,降低细粒度访问页面的下沉速度,延长细粒度访问页面留在主存中的时间,以此来减少对磁盘的访问次数,进而通过减少磁盘访问次数来降低多余的访问磁盘造成的开销问题。   最后,通过随机重复实验,验证了FGF-LRU方法对Lustre文件系统I/O的有效性,在不影响粗粒度的访问的情况下,提高了细粒度I/O访问性能,实现了文件系统在I/O方面整体性能的优化。
其他文献
随着计算机技术的发展以及《食品安全法》的颁布实施,质量技术监督局依靠传统工作模式已不能满足新形势下对食品生产安全监管的需要。为此,有必要研究开发食品生产安全动态监
铁路叫班系统控制主机是新型铁路叫班系统的核心组成部分。在新型铁路叫班系统中,可以通过多种方式对整个系统进行控制,但无论采用哪种方式,都需要通过控制主机来直接或间接
汽车产业链是在新时代背景下产生的一种应对激烈市场竞争的新型组织模式,是汽车制造行业中汽车制造厂与经销商、供应商、服务站之间以产品技术和资本形成的一条价值关系链。
随着3G移动网络迅速发展以及智能手机的普及,全球已经正式迈入了移动互联网的时代。移动互联网代表的不仅仅是一种生活方式,更是一种产业模式。企业主迫切需要构建自己的WAP
随着海洋数字化时代的到来,海洋数据正在以TB级的速度增长,而研究人员可以收集和存储这样庞大的数据集以作科学研究。海洋数据是国家进行海洋开发战略的基石,对发展海洋事业具有
学位
本体(ontology)作为一种有效表现概念层次结构和语义的模型,自从被引入到计算机领域,就引起了国内外众多研究人员的关注,并被广泛应用到计算机科学的诸多领域。   现阶段
网格是当今分布式计算研究领域最为活跃的部分,它以虚拟组织VO(Virtual Organization)的形式灵活、有效地将不同管理域的异构资源组织起来,协同完成大型计算任务。任务调度是
本论文研究的主要内容为基于内容的中文网络信息过滤。在论文的撰写过程中,首先深入研究了模式匹配中的一些经典算法,包括算法流程,匹配思想以及时空性能。并对英文语境进行
学位
数据库自然语言查询接口是人机接口的重要研究课题,它大大简化了人机交互的过程,使用户可以只以应用领域的概念访问数据库。它是人工智能与数据库技术相结合的产物,主要涉及