数据网格QoS保障与资源优化关键技术研究

被引量 : 0次 | 上传用户:jieys75001
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
网格是一种先进的信息技术基础设施,目的是有效整合Internet上广泛分布的各种计算资源、存储资源、通信资源、信息资源等,向用户提供虚拟、统一、透明的计算环境。数据网格作为网格计算领域的一个分支,已经得到学术界的极大关注。数据网格是指广域范围内,对大规模的数据集进行分布式管理、分析及使用的一个综合体系结构。数据网格实现了安全、可靠和有效的数据传输、访问、存储和副本管理等操作,并提供到不同存储系统的统一的接口,从而使得数据密集型高性能计算及科学研究成为可能。Ian foster指出网格最基本的一个特征就是“提供非凡的服务质量(QoS)”。为了保障数据网格具有较高的QoS,需要克服网络以及网格节点的诸多不稳定因素,而资源(能力)预留、副本部署、缓冲区机制、并行数据传输和数据存储与恢复是解决这类问题的主要手段和当下研究的热点问题。海量数据存储和传输导致大量网络传输、存储资源、节点资源的不必要浪费,致使高峰时刻网格服务接纳率的急剧降低,带来整体QoS的下降。目前多数研究更关注于从某方面提升服务质量,而较少的考虑资源的优化调度问题,从而在保证QoS的同时一定程度上降低了网格系统整体资源的使用率。本文从“保障QoS是基础,优化资源的使用是目标”这一宗旨出发,深入研究了如何在保障数据网格QoS的同时对使用的资源进行有效优化的问题。论文将数据网格最基本的功能(数据存储和数据传输)在服务级QoS层面分解为5个主要子服务(传输、存储、缓存、节点选择、资源预留),针对不同的子服务采用了特定手段达到了QoS保障与资源优化的双重目标。具体为:(1)多副本部署可以提升数据的可靠性和数据服务带宽,降低网络负载,基于多副本的并行传输算法可以极大提升传输速度,保障数据服务的QoS,但是多个完整副本部署对存储空间和网络传输的消耗极大。本文首先提出了一个数据的分布式存储模型,存储模型在存储空间使用上具有较大的优势(存储优化),同时具有P完整性,可以保证在任意P个节点失效时数据仍然完整;基于存储模型给出了一并行传输调度器,在双副本冗余度时调度器可以适应节点间速度的较大差异,以调度器为基础给出了一个并行传输算法,配置合理参数,算法可以达到基于多个完全副本的并行传输速度。(2)为了保障数据存储的可靠性,基于并行传输的动态数据恢复是数据网格应具备的能力。在优化使用存储空间前提下,不但要保障数据存储的基本QoS指标:可靠性和可用性,同时还必须兼顾数据的易用性。本文基于分布式存储模型,结合节点失效性、动态恢复过程和数据交换中心策略,以本文提出的调度器、并行传输算法并结合泊松分布定理,提出了一个动态的数据恢复模型。数据恢复模型较双副本存储具有更低的数据失效概率,较纠删码策略具有更强的易用性。(3)为了克服网络的不稳定性,数据缓存是网络应用较为常用的一个主要策略。考虑数据的海量特性以及资源有限性,在数据缓存服务中需要优化配置缓冲区大小,并应考虑诸多因素,包括:数据源节点的失效性、参与服务的节点集合、各节点的传输速度、任务对数据失效时间的约束以及对整体失效的要求等。本文通过引入有限缓冲区模型,从数据消耗者角度出发,以多副本存储和并行传输模式为基础,推导出一个服务失效模型,该模型有效表述了影响服务失效的各种参数间的量化关系,进行了仿真实验,将模型理论值与实验值进行了对比分析,取得了较好的结果,达到了缓冲区和服务节点的优化配置,缓存服务QoS保障的目标。(4)基于多副本进行并行数据传输的一个重要问题是:在满足服务可靠性、传输时间等QoS约束的前提下,如何能够合理选择节点资源。本文提出了两个模型,模型能够对网格节点的传输速度、可靠性、传输距离、网络状态、带宽约束等因素进行综合决策,从而给出最优的服务节点集合,使达到合理使用节点资源、降低网络负载、降低服务请求的容忍度、提升高峰时网格系统的接纳率与服务质量并保证一次服务代价最小的多重优化目标。(5)资源预留是保障数据网格任务顺利完成的基本前提,预留请求的接纳率直接影响到服务的QoS。资源能力从宏观上更好的描述了资源的数量和使用情况,对于资源的预留服务提供了强有力的支撑。合理的调配资源能力,可以降低资源能力碎片,提升高峰时刻网格系统的吞吐量和接纳率,使达到优化资源、保障QoS的双重目标。本文提出了基于并行加速比和四元法资源能力预留策略,与先前机制相比使网格系统可以根据预留请求的综合信息进行主动决策,并对预留请求进行一定的资源能力变换,进一步优化资源的使用,有效降低资源能力碎片,提升高峰时刻服务接纳率。个体服务QoS保障与资源优化可以提升网格系统整体资源的利用率,从而可以在高峰时刻提升服务请求的接纳率和个体服务的QoS。
其他文献
当前,我国正处于城市化高峰期,急功近利思想的泛滥以及对技术理性的片面依赖,使城市的开发建设过度强调高效率的生产和新奇、眩目的视觉形式,而忽视了城市的生活本质,弱化了
自新中国成立以来,我国的石油资源型城市累计生产石油55亿吨,有力的促进国民经济发展。但是随着石油资源的日渐短缺,环境污染问题日益严重,可勘探开发储量的逐渐萎缩,石油资
水资源作为一种珍贵资源,是经济发展至关重要的物质保障。随着社会经济的快速发展和人们科学技术的进步,人类对水资源的需求不断提高,现有水资源量己不足以支撑社会的进步。
一部《边城》,主要地点并不放在茶峒城,而是放在茶峒河支流"碧溪"上溯三里,或翻山而过仅一里的碧溪岨。碧溪岨是主人公主要活动场所,而茶峒城只是他们重要活动场所。就这两个
随着科学技术的发展,光学成像系统在国防尖端装备及民用工业中应用范围越来越广,人们对其要求也不断提高。如智能武器、智能机器人视觉系统以及微型飞行器等,期望整个系统重
地下水是人类赖以生存的水资源的重要组成部分之一,是一种宝贵的自然资源,是保证经济发展和社会进步的重要因素。作为国家发展必不可少的自然资源之一,保护好地下水资源对于
我国目前存在的自然资源的非法使用现象,是在当前我国自然资源公有产权制度和政府审批制度约束下,三种利益集团———上级政府、地方政府和非法使用者之间为了各自收益最大化
经过20余年的开发建设,国家级开发区在促进区域经济发展,扩大对外开放,吸引大型跨国公司投资项目,形成产业聚集方面取得了辉煌业绩,已成为中国经济重要的增长极。但随着经济
自然资源是我们生产和生活中最重要的物质基础,但因为自然资源的无序开发和利用中的浪费,造成了自然资源的严重枯竭和破坏。自然资源资产产权这一概念正是在这一资源困境中应
<正>在集体林权制度改革已经进入全面深化、整体推进的新阶段,有关国有林场改革试点工作,目前正在按照国家林业局的总体部署,先行在河北、山东、湖南等内地省区开展,随后将在