基于快速网络的新型存储层次设计与实现

来源 :国防科学技术大学 | 被引量 : 0次 | 上传用户:yiran87
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
数据密集型程序有着广泛的应用,已经成为高性能计算中最重要的应用程序之一。这种程序运行时需要频繁访问磁盘上的数据文件,或者要求的主存容量远大于本地主存,导致频繁访问交换区。传统的虚拟存储系统使用磁盘作为后备存储,尽管磁盘具有传输速率高、存储容量大等优点,但是,磁盘的寻道时间比主存要慢几个数量级,从而限制了这些应用程序的执行速度。 本文研究使用空闲的网络主存构造虚拟二级存储设备,提出了预测预取框架PNMS(Prediction-based Network Memory System)。它充分利用了CPU速度的提高、网络延迟的改善和主存容量的不断增加,支持异构节点和各种操作系统。 提出利用内核间直接通信来提高通信性能,实现了一种可靠高效的内核级消息传输协议。它同已有的协议共存,共享底层通信通道。通信双方都在内核中执行,降低了上下文开销和系统调用时间。 提出一种基于外部二级设备的数据备份策略,把server分组,每组增加一个节点,利用磁盘备份本组server中存放的client使用的数据,这就可以避免某个server偶尔失效导致数据丢失,增强了系统的可靠性。 对页面预测算法性能进行了研究,在传统PPM(通过部分匹配进行预测)算法的基础上,通过观察页失效序列,有效结合串行、等跨度等典型程序行为,提出贪婪Markov算法,并讨论了控制预测质量的算法策略和机制。通过把预测算法和应用程序分布到不同的节点,使用网络中的空闲工作站辅助预取,把即将访问的页面读入目标节点,从而进一步减少CPU等待时间。通常情况下,由于预测算法和应用程序在同一节点,因而产生高质量预测的开销很高,使用预取带来的性能提高变得微不足道,但是在我们的框架中,由于在不同的工作站上执行预取,故可以使用复杂度较高的算法,而不会产生负面作用。 PPM模型的级数越高,预测性能就越强,但是模型越复杂,状态空间越大,运行时间也越长。论文中提出了一种利用规则访问压缩多级PPM模型空间的方法。通过把连续访问压缩到一个超级节点中,既可以达到削减状态复杂度的目的,又不会降低模型的国防科学技术大学研究生院学位论文预测性能,还有助于预测精度的提高。 在规模比较大的系统中,完全信息收集会导致过多的CPU和网络开销,考虑到网络系统中负载信息的非精确性和不完整性,我们提出了集中式最小k子集随机算法来选择空闲节点,并实现了信息Cache机制。采用多个收集节点可以满足系统扩展性要求和容错要求。通过替换算法,保证Cache中的信息为系统中负载最小的k个节点的信息,还给出了一种Server优先的主存数量公布算法。 通过对网络主存的server端进行抽象,设计了逻辑memo卿server,它完全屏蔽了chent和server之间体系结构的差异,使用高效的算法和数据结构,保证检索数据的时间是常数。 在Linux系统下设计实现了一个基于网络主存的可靠高效的虚拟存储设备,并对Linux系统内核进行少量修改支持预取。测试结果表明,系统运行稳定,无论是计算密集型还是数据密集型应用程序,都可以显著提高程序执行效率,并且具有很强的灵活性。 本文的基本结论是,在快速网络的支持下,利用空闲主存构造虚拟二级存储设备不仅是可能的,而且是可行的、可靠的,与具有同等(甚至更高)带宽的磁盘相比,它可以显著提高卫O性能。关键词:网络主存,部分匹配预测,Markov,存储层次,工作站集群,空闲资源,可靠性,内核级通信
其他文献
计算机和微电子技术的高速发展,促进了通信技术的快速革新。当前广泛使用的无线通信技术在人们的工作和生活中扮演着越来越重要的角色。与此同时,随着人们对于高速多媒体无线通
摘要:人类已经步入了大数据时代,对海量数据进行存储、整合、处理和分析的大数据必将对经济社会发展产生越来越广泛的影响。剖析了大数据对统计学和统计学教学带来的影响,为适应大数据时代对非统计专业人员在统计分析方面提出的新要求,重点论述了大数据时代对非统计学专业统计学教学提出的挑战,提出了相应的对策建议。  关键词:大数据;统计学;教学改革  中图分类号:G420 文献标志码:A 文章编号:1674-93
目的:观察双黄连口服液(儿童型)联合蒙脱石散治疗小儿轮状病毒性肠炎临床疗效。方法:将确诊为轮状病毒感染的患儿随机分为观察组和对照组,各40例,在补液等常规治疗的基础上,
分析了电子监管码的出台背景,特点及需求,药品电子监管码管理要求,赋码及关联解决方案。
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
目的探讨以奥马哈系统为理论基础的延续性护理在垂体瘤术后患者中的应用情况。方法选取我院2016年6月至2017年4月垂体瘤术后患者80例,出院前1天运用奥马哈问题系统进行信息采
本文针对质量监督抽样工作进行探讨,分析抽样检验工作中存在问题,并提出相关建议,希望更能够为质量监督抽样检验工作的发展提供一点理论支持。
马克思主义认为实践是认识的基础和动力,也是获得知识的源泉。不仅如此,实践也是检验真理的唯一标准。对于当前的大学生来说,参与实践的机会相对较少,因此,高校举办相应的实
2007年10月,浙江某建设集团公司(下称总包单位)在总承包某体育馆工程后,将其中幕墙工程的设计、制作、安装分包给福建某幕墙公司上海分公司(下称分包单位)。当幕墙工程进行到尾声时
生物全息疗法是应用穴位的全息律进行治疗疾病的方法。笔者在临床治疗中通过针刺第二掌骨侧穴位治疗各种急慢性疼痛性疾病,均取得满意的疗效,现将典型病例报告如下。1 足跟痛