论文部分内容阅读
基于虚拟技术的动态资源供给是云计算系统的核心特征之一,它为云计算带来“Pay as you go”的服务模式,在资源池化的基础上使云环境实现弹性、高效的资源管理。面对云环境中存在的负载动态特征日益明显、资源需求多样化以及工作流任务执行可靠性差的问题,如何进行精准的负载预测,如何实现多维度资源的均衡利用,如何保证工作流任务的可靠执行成为当前云计算调度优化研究所面临的几个典型挑战。本文从云环境的动态特性出发,总结分析其对云资源调度的影响,并有针对性地提出相应解决方案。本文将云环境动态特性对资源调度的影响归纳为以下三点:1、非稳定性,是指由任务动态变化导致的云资源利用情况处于不稳定状态,具体表现在无法用稳定的数学模型表征云主机负载的变化规律,而动态变化的负载会影响资源调度的效果,从而无法进一步提高资源的利用效率。2、非均衡性,是指由任务需求的动态性及多样性导致的不同种类云资源利用不均衡状态,这种非均衡特性具体表现在云环境中主机各类资源利用率水平存在较大差异,进而可能出现某类资源耗尽时其他资源依然有较多剩余却无法再被利用的现象。3、非可靠性,是指由云环境大量使用消费级服务器导致的主机故障概率提升,系统可靠性下降,具体表现为节点故障成为系统“常态”,对服务质量有较高要求或对故障敏感的工作流任务将会受到较大影响,降低云系统运行性能。基于以上分析,本文针对云环境动态特征及其对调度优化研究带来的挑战进行深入研究,论文的主要工作和创新点包括:(1)云资源调度中具有误差补偿的分解-合成式负载预测算法研究针对云环境中资源利用情况动态变化的非稳定特性,本文针对该问题提出具有误差补偿的分解-合成预测(DCEC)算法对主机负载进行预测来减少上述不确定性对调度的影响,本文基于对实际负载数据的统计分析,总结云负载的特征,据此按照负载构成对主机负载进行分解,将动态复杂的主机负载分解为若干独立简单的任务负载,利用改进的卡尔曼滤波算法对任务负载进行预测,再对预测结果进行误差修正及合成形成最终预测结果。本文基于真实负载数据验证预测算法的有效性,验证了提出的负载预测算法可行性与有效性。(2)基于2D-BPSO虚拟机与容器相结合的多维资源调度研究针对云环境中各类资源利用的非均衡特性,本文引入近年来兴起的容器虚拟技术,利用容器轻量、易于迁移的特性,提出一种虚拟机-容器混合分级的多维资源调度机制,综合虚拟类型及调度状态对任务进行分级,制订了不同级别任务的初始调度策略,及任务迁移时,多级任务的组合优化方案。本文以均衡多维资源利用率为优化目标,设计多维资源均衡指标,采用改进的粒子群优化(PSO)算法对提出的调度问题进行优化,将传统的一维PSO算法扩展到二维空间,并进一步给出PSO扩展到N维空间的一般形式,设计一种基于二值算子(binary-operator)的迭代更新策略,构成基于二值算子的二维 BPSO 算法完成问题优化。容器虚拟技术是云计算虚拟化的新模式与新方向,本文利用容器轻量化特点对服务器间资源利用不均衡进行调节,与传统的虚拟机技术形成互补优势,提出适用于多维资源调度的2D-BPSO元启发算法,并设计实现仿真程序,仿真结果验证了提出算法的可行性,并可以有效提高各类资源的利用效率与利用均衡度。(3)面向可靠性的工作流任务调度研究针对云环境中节点故障成为常态的非可靠性特征,本文选取对系统可靠性有较高要求的工作流任务调度问题进行研究,传统工作流任务调度研究常以固定结构工作流为研究对象,以任务完成时间或成本为优化目标,采用静态调度方法为核心算法对工作流调度问题进行研究,但在云环境中,种类多样、流式处理的工作流任务成为调度的主要对象,与此同时虚拟机节点故障或服务器节点故障都会对具有依赖关系的工作流任务造成重要影响,本文提出一种面向可靠性的工作流任务调度机制,利用有向无环图(DAG)对工作流任务建模,利用主副本技术实现工作流任务的容错调度,本文在非可靠的云环境上,改进经典HEFT算法提出容错调度算法FT-HEFT,在理论上推导出实现容错调度需要满足的约束条件,以现实中典型工作流为基础,模拟流式处理应用场景进行仿真实验,实验结果验证了提出算法的可行性,在保证任务可靠执行的前提下,优化了工作流任务的完成时间与成本,并在与其他调度算法对比中验证了算法优化效果,对云环境中工作流任务的容错调度工作具有指导意义。综上所述,本文以云环境的非稳定性、非均衡性以及非可靠性为研究切入点,针对每个点带来的问题提出相应解决方案。根据应用场景的不同云环境表现出的动态特性具有不同的侧重,本文的研究内容之间既可以独立应用又可以相互配合,云负载预测可以为多维资源调度和工作流任务调度提供资源需求预分配支持,多维资源均衡调度可以为负载预测和工作流调度提供更加平稳的应用环境,工作流容错调度则可以成为负载预测和多维资源均衡调度的鲁棒性保证。这三个研究内容之间在相互提供支持的同时,也存在资源竞争等问题,如何协调好这三者之间的关系将是后续研究的发展方向。