面向云数据中心的存储服务质量技术研究

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:ynhappyma
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
互联网应用的蓬勃发展和数据量的爆炸式增长驱使着企业和政府机构构建面向公共服务的数据中心。数据服务中心的核心设计理念为资源服务化,即通过整合各种计算机系统资源向大量的并发应用提供资源共享服务。用户根据其存储容量和访问性能的需求直接使用存储服务,从而降低了企业的设备采购成本和数据中心的运营维护成本,并有力地推动了中小企业的信息化建设和社会生产力的发展。然而,存储服务化不可避免地引入了资源竞争及相互干扰,从而给应用的存储服务质量保证和存储系统的性能优化带来了巨大挑战。特别是在复杂的应用环境下,企业应用呈现多样性和突发性,存储平台具有异构性和复杂性,如何根据应用的需求合理地分配系统资源以保证应用的服务质量并提高数据中心的IT绩效已经成为了当前数据服务中心的关注重点。针对应用需求的多样性和应用负载的突发性,提出了一种支持多维服务质量保证的I/O调度机制(Courier)。在面向服务的数据中心环境下,大量应用并发访问存储系统,且不同的应用有着不同的服务质量需求,尤其是延迟和带宽需求。针对此问题,Courier调度算法通过动态切换于基于反馈的延迟控制器和基于信誉分配的带宽分配算法之间以适应应用负载的动态变化。延迟控制器通过采用反馈的方式实时监控存储系统的请求服务时间及应用请求的最后期限,并判断请求的紧急性,优先处理应用中的紧急请求,从而向应用提供请求级别的优先级以应对应用负载中的突发请求。当所有请求的延迟期望得到保证时,调度器则采用基于信誉激励机制的带宽分配算法,允许应用透支限定额度的信誉以优先处理紧急请求,并奖励负载特征良好的应用更多的信誉额度以提高存储系统资源利用效率。测试结果表明,Courier不仅可同时支持应用对延迟和带宽的需求,存储系统的性能也提升了约20%。针对日益普及的固态盘设备,提出了一种面向固态盘的I/O调度器(FBCQ)以保证应用的性能隔离并提高固态盘设备的访问性能。不同于传统的I/O调度算法,FBCQ调度算法采用二层调度框架,其中上层负责为应用提供性能隔离保证,而底层则采用灰盒子方法以挖掘固态盘的内部并行性。由于固态盘存在读写不平衡的问题,上层调度器通过管理应用的服务时间片,并区分对待应用中的读写请求以保证该应用的性能不受其它应用负载特征变化的影响。在FBCQ调度器底层,根据固态盘的数据页组织方式将固态盘的逻辑地址空间映射到不同的逻辑通道队列中,并为每个逻辑通道队列建立一个子调度器。每个到达的请求根据其物理位置和大小拆分小请求并放置到对应的通道队列中,多个逻辑通道队列并发地处理其内部等待的请求。在每个基于通道队列的调度器中,调度器优先处理读请求以避免读请求被阻塞,且对写请求进行排序和合并以进一步提高写性能。实验表明,FBCQ调度器可以有效地实现应用之间的性能隔离,并提高固态盘存储设备的整体性能。鉴于由固态盘和机械磁盘组成的混合存储系统在性能、容量、成本等方面的优势及发展趋势,本文提出了一种固态盘缓存动态分配策略(QoS-FCA)。在混合存储系统中,固态盘可以作为磁盘的缓存,用于加速应用访问,然而,由于大量并发应用共享和竞争缓存资源,不合理的固态盘缓存资源分配必然会导致应用的性能无法得到保证。因此,本文详细讨论了固态盘缓存的访问流程并建立了应用的性能模型,通过模型分析发现,应用在固态盘缓存上的访问性能不仅依赖于缓存命中率,同时,与其自身的负载特征相关。因此,QoS-FCA实时监控每个应用的读写缓存大小及缓存命中率,通过曲线拟合的方式建立应用性能与固态盘缓存空间大小的关系模型。根据应用的性能模型及负载特征,采用了非线性规划的方法动态地计算出满足应用性能需求所需要的最小固态盘缓存空间大小,并将空闲固态盘缓存按照缓存边际效应分配给应用以提高存储系统的整体性能。测试结果显示,QoS-FCA可以在保证应用性能需求的基础上,提升固态盘缓存命中率约10%左右。最后,针对互联网应用和科学计算中存在的海量小文件,提出了一种基于委托的元数据服务机制以优化并行文件系统的小文件访问性能。针对数据密集型应用的需求,设计和实现了具有高性能和高可靠性的分布式并行文件系统Cappella.通过分析分布式文件系统中文件访问流程发现,元数据操作开销占据着小文件访问开销的绝大部分。因此本文提出了基于委托的元数据服务机制,允许客户端在不影响语义一致性的情况下访问和修改客户端缓存中的元数据,并设计和实现了元数据后台刷新机制(.mdflush)。测试结果表明,当文件小于64KB时,Cappella文件系统的性能相对于原始系统提高了35%以上。
其他文献
核心提示$$日前,围绕《“供应链+”时代 跨境电商的机遇在哪里?》的福建跨境电商分享会在厦门举办,结合福建跨境电商在产业带上的优势,多位嘉宾从供应商、服务商、工贸一体化电商
报纸
本文通过分析新时期下我国经济对跨境电商物流服务的新需求,以及传统跨境电商物流模式的诸多弊端,认为传统模式已很难满足经济发展的需要。因此,探索跨境电商物流服务新模式
目的探讨炎琥宁联合山茛菪碱治疗小儿轮状病毒性肠炎的临床疗效。方法在常规治疗的基础上,将119例轮状病毒性肠炎患儿随机分为三组,对照组34例,给予病毒唑注射液10mg/ (kg/d)
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
随着经济的不断发展与进步,各个企业之间的竞争也越来越激烈,在一定程度上促进了我国金融市场的逐渐成熟,为了满足市场发展的实际需要,企业之间的经营模式也越来越多样化,在
<正>阅读能力是核心素养的外显形态,了解学生的核心素养发展状态需要从阅读能力评价入手。那么,基于核心素养的阅读能力评价秉持怎样的命题取向?在具体操作上采用怎样的命题
随着我国城市化进程的加速和城市基础设施体系的完善,加上居民对居住环境质量日益重视,居住的空间概念必然向外延伸,城市边缘地区的住宅将成为今后住宅发展的战略重点之一。
以数字技术、互联网为依托,新媒体得到突飞猛进的发展,深刻改变着由原有大众媒体为受众构建的拟态环境。电脑、智能手机的普及,使人人都是自媒体,挑战了传统媒体的权威地位,
为推动长江中下游城市群一体化,促进长江中下游城市群协调发展,突出合肥作为两大城市群交叉地带的重要区位作用,优化合肥的投资环境至关重要。通过分析合肥投资环境面临的行