云计算基础软件平台的研究和实践

被引量 : 0次 | 上传用户:helen527
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
过去的十年里,云计算相关领域得到了长足的发展。随着云计算对人们生活的影响越来越深入,其将最终使得计算和存储成为一种资源,像水、电一样渗透到人们生活的各个方面。与此同时,新的应用需求不断出现,比如实时搜索,在线推荐系统,社交网络分析等,给云计算领域带来了新的挑战。这些挑战主要包括以下几个方面:1)新型的应用对数据存储量的要求更大;2)应用对数据随机访问的速度越来越高;3)应用的复杂度和实时性要求越来越高。比如典型的推荐系统,搜索引擎,社交分析等应用所处理的数据往往是无结构的原始数据,这使得大部分的访问模式是随机的。应用需要在较快的时间内产生处理结果,因此对访问速度要求较高。除此之外,这些应用的计算过程中通常包括大量的迭代计算过程,并且这些迭代过程中的多轮之间通常有强依赖性,使得计算过程越来越复杂。有效的编写这样的应用需要计算模型的支持,而提高这类应用的执行速度则需要运行时系统的支持。在这些挑战的驱动下,近年来出现了不少新型的存储系统和计算模型,但是依旧存在许多问题亟待解决。本文基于在云计算平台中出现的新型应用的需求,对云计算的基础软件架构进行了深入的研究,主要工作包括对现有架构的优化配置以提高其性能,针对海量数据的高速随机写需求设计并实现了完全基于内存的数据持久的分布式存储系统,针对复杂的实时应用设计并实现了一个基于触发器的通用计算模型。具体来说,本文的主要工作和贡献如下:1.研究了大规模Hadoop集群的配置方法,提出了一种基于模糊逻辑的Hadoop集群异构配置工具。该工具使用模糊逻辑算法,将正在异构集群中服务器的各种硬件参数以及历史运行数据作为模糊输入,根据模糊规则自动生成参数配置最终提高Hadoop集群本身中任务的执行速度。通过将传统的Hadoop集群配置中优化参数的方法转变成了优化规则的方法,极大的降低了配置集群的成本。实验表明,该模糊规则工具根据异构集群的多项指标生成的参数配置能够有效的提高应用的执行速度。2.针对海量数据的高速随机写需求设计并实现了完全基于内存的数据持久的分布式存储系统Sedna。在Sedna中,我们提出了一种基于层次化的集群管理方案,通过和分布式哈希算法的结合,提高了集群的可扩展性以及进行动态负载均衡的灵活性。除此之外,我们还在传统的存储系统API的基础上,设计并且实现了专用于实时应用的实时访问API来进一步提高存储系统对实时应用的支持。实验证明,Sedna存储系统具有和内存缓存系统相近的速度却能够保证数据的可靠性,与此同时,实时API也明显的提高了应用对数据更新的响应速度。3.针对复杂的实时应用设计并实现了一个基于触发器的通用计算模型Domino。在Domino的设计和实现中,针对递增模型下触发器执行过程中的同步需求,我们提出了聚合模式来进行同步操作。并且引入了最终同步模型,很好的解决了分布式的纯异步的触发器模型如何进行数据同步的问题;通过引入多种同步模型(完全异步、最终同步、严格同步),我们为开发人员提供了灵活的选择方案。在Domino中,我们提出了基于多版本数据管理的容错以及恢复的策略,对于执行过程中的错误可以实现实时恢复进一步提高了Domino的可用性。通过将多个典型的复杂应用在Domino上进行实现并进行比较,证明了Domino具备非常好的扩放性并且在复杂的计算应用中,其性能优于传统MapReduce模型。
其他文献
目的:应用基因芯片技术从基因水平进一步探讨针刺促进脊髓可塑性的分子生物学机制。方法:健康成年雄性SD大鼠9只,随机分为针刺一天组(3只)、针刺一周组(3只)和针刺两周组(3只)。
近几年辽宁经济下行压力比较大,省会沈阳市尽管在省内的各个城市相比发展较好,但其经济增速并不快,在这种情况下,如何振兴辽宁经济、如何振兴沈阳经济已迫在眉睫,而要振兴沈
目的:本课题旨在通过动物实验,证明柴平胶囊治疗慢性浅表性胃炎的有效性,并探讨其在增强胃黏膜防御机制上的作用,为柴平胶囊更进一步的应用于临床提供理论基础。方法:本实验将100
乡风文明是乡村振兴之魂,实施乡村振兴战略须加强乡风文明建设。乡风文明建设为乡村振兴奠定坚实文化基础、提供充足人才保障和构筑扎实道德围墙;当前,乡风文明建设面临基层
研究新生代农民工的流动原因、流动方向、流动成本、流动优劣势、流动特点,能借此了解新生代农民工的生存、发展及潜在的隐忧,破解城乡统筹难题,对我国社会管理新动向都有着
目的:观察补肾调脂片对高脂血症的临床疗效并探讨其作用机制。方法:80例患者双盲随机分为3组:治疗组、西药组、空白组(安慰剂组)。治疗组30例,给予补肾调脂片治疗;西药组30例
牙颌的健美是颜面审美的重要因素之一,错牙合畸形造成了口颌系统的形态与功能异常,对患者的健康产生影响,也带来了相应的心理压力。随着社会的发展,越来越多的人认识到错牙合畸形
物资管理是企业进行有效的生产活动的基础,高效的物资管理不仅能够有效减少企业物资管理成本,还能使企业的运作流程更加顺畅。而进行有效物资管理的前提便是建立科学合理的物
目的:观察“刺吸引流-调气和血法”对高血压性出血型脑卒中急性期的临床治疗效果。方法:选择符合病例纳入标准的高血压性出血型脑卒中患者64例,治疗组33例,在CT引导下,采用微
本文以系统功能语言学理论为基础,采用基于语料库的分析方法,研究了环境话语中的联合。联合是系统功能语言学个性化层次中的概念,是指人们如何使用符号资源进行交谈并紧密联