Linux集群上并行I/O与核外存储策略的研究与实现

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:BeginJava123
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着工作站性能的迅速提高和价格日益下降,以及高速网络产品的陆续问世,一种新型的并行计算机系统工作站集群应运而生。工作站集群属于分布式存储的MIMD,这种系统将许多台工作站用某种结构的互联网络连接起来,充分利用各工作站的资源,统一调度,协调处理,以实现高效的并行计算。Linux是一套免费使用和自由传播的类UNIX操作系统,主要用于基于Intel x86系列CPU的计算机上。Linux系统是由全世界各地的成千上万的程序员设计和实现的,其目的是建立不受任何商品化软件的版权所制约的、全世界都能自由使用的UNIX兼容产品。在这种背景下,Linux工作站集群飞速发展起来。高性能计算领域经常需要处理大量的数据。为了满足处理大规模数据的需求,本文主要研究和实现Linux集群上的并行I/O与核外存储策略。并行I/O是一个很广泛的领域,包括硬件系统,操作系统支持,语言、编译器和运行系统支持,I/O特征与性能分析,I/O密集型并行应用。本文着重于Linux集群上的并行文件系统的研究与核外存储系统库的设计与实现。首先,本文阐述了并行I/O的系统结构,主要内容涉及磁盘存储系统、RAID和iSCSI,文件系统,互联网络,网络文件系统,并行文件系统,并行I/O界面。然后,介绍了Linux集群上的并行文件系统PVFS(Parallel Virtual File System)。该系统有开放的源代码,并支持多种应用程序接口(API),因此具有良好的应用前景。最后,提出了一种全新的核外存储问题的实现方案。该方案使用C++实现了一个一维数组模板类。一维数组模板类使用多个内存缓冲区,并和一个并行文件相关联。一维数组模板类支持缓冲区动态分配、缓冲区的最近最少使用调度算法、运行时改变缓冲区数目、统计失效频率等功能。用一维数组模板类构造多维数组模板类有两种方法:派生法和成员构造法。这两种方法运用C++提供的强大功能,把面向对象的思想充分运用到核外存储系统库的设计中。
其他文献
该文在研究现有嵌入式操作系统优缺点的基础之上,结合国内外操作系统的发展方向,真正实现了一个嵌入式操作系统的微内核.微内核操作系统具有可剪裁、可配置和灵活的特点,已经
为了有效的支持企业间的协同工作,本文在研究了最新计算机科学技术和理论之后,将计算机支持的协同工作,XML技术结合到工作流管理中,构建了基于XML的,基于web的多方协作的工作流管
受到流式媒体处理技术的启发,该文试图从一个新的角度提出基于网络的海量三维地形数据的流式处理方案,使之能够达到实时交互的性能.首先,该文提出了基于视点的动态多分辨率简
该文分析了企业在实施ERP系统过程中与电子商务紧密集成的途径.根据业务重组及开展电子商务的需要,使企业内部ERP系统能够提供与业务流程的灵活变化相适应的动态可扩展功能,
该文以呼和浩特炼油厂电动机保护系统的监控系统为研究对象,根据用户需求,对系统的硬件、软件以及网络结构进行了分析和设计.该课题是在美国Wondware公司1996产品Intoch的中
针对解决大词汇量手语识别的问题,该文从两方面进行了研究.首先,减少搜索空间,用分层搜索的办法.先使用一些简单的分类器将大的词汇量分成一些小的集合,再在这些小的集合里进
自动文本分类是一种重要的文本挖掘工作.特别是对中文文本的自动分类,目前还没有达到一个统一的标准.该文在已有的研究基础上,对中文文本的自动分类方法进行了进一步的探讨,
该文从理论和实践两个方面,对实施基于Internet的网络攻击和防御存在的各种问题,进行了较深入的研究和探讨.对如何在现有安全技术基础上实现网络攻击和多层次的网络防御给出
随着基于RFID技术应用的快速发展,RFID标签已经被部署到很多日常环境中(例如,超市的货架上都部满了带有标签的货品)。传统RFID定位方案通常利用精确的锚节点来帮助计算目标的
该文是针对Linux群集系统负载均衡技术方面进行研究和改进的.首先介绍了群集系统的定义、特点、评测标准、群集任务分配的调度策略,以及负载均衡技术;接着,分析了Linux Virtu