基于Twitter Storm的云平台监控系统研究与实现

被引量 : 31次 | 上传用户:huli890615
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
云计算是网格计算、并行计算以及分布式计算的延伸和发展,它能够有效解决信息对代有关大数据处理方面的技术难题。Hadoop是当前主流的云计算平台,通过集合成千上万台廉价计算机或服务器,它能够提供每秒万亿次的运算能力以及大量存储空间。目前,云计算技术已经步入实施阶段,各大企业开始建立自己的数据中心,正式部署与运营云计算平台。然而,动辄几百上千台的服务器集群,为运营管理带来巨大挑战,稳定、可靠、高效地云计算平台实时监控系统成为云集群顺利运行的基石。本文依托“海洋环境信息云计算与云服务体系框架应用研究”项目,构建基于Twitter Storm (Twitter即为推特)的云计算平台监控系统,使用户能够在Web页面按需求订阅监控信息,以曲线图、列表等形式分析集群状态。本文还针对传统实时数据处理速度缓慢和数据丢失等问题提出相应的优化策略。根据海洋项目对数据资源、计算资源和虚拟资源等监视需求,本文首先设计系统的整体架构情况,列出系统框架图,然后从数据采集、数据处理、平台展示等模块逐一说明系统的设计及实现。数据采集模块是系统数据流的源头,它利用Ganglia等技术按照用户设置的订阅信息实时采集相关数据,以XML数据格式进行传递;数据处理模块是系统的核心部分,本文从多种模式展开计算拓扑(Topology)的设计,依照Storm提供的相关API进行实现,使系统在接收到数据后,能够精确计算并实时返回处理结果。另外,该模块还提供了数据的持久化功能,为用户后续对集群历史情况的分析提供依据;平台展示模块是用户与系统沟通的窗口,用户可以在界面上直接监测集群工作情况,也可以通过设置订阅,细粒度监视管理各台主机。最后,本文在数据流的概念模型基础上阐述了基本的数据流处理模型,然后以这两个模型为背景,提出基于Storm的数据流处理策略,有效保证实时数据的完全处理和数据流的按序分组,本文还对传统滑动模型进行优化,设计了基于复合滑动窗口模型的聚集查询。系统评测部分对优化做了进一步阐释,以图形方式直观对比显示优化结果,表明优化算法的可扩展性和实用性。
其他文献
本文介绍四种膨润土对铁精矿成球性能的影响。讨论了膨润土对铁精矿成球性能改善的程度和原因。研究结果表明铁精矿的成球性能主要决定于铁精矿本身的特性,但添加剂对铁精矿
作为组成高中教育的重要部分,高中地理在学生学习中占据重要位置。随着中学地理课程改革的不断深入推进",地理有效教学"理念愈来愈受到教育界的关注。本文试从高中地理有效教
1933年软陶发源于德国,1997年经台湾引进。由于软陶多变的特性,可充分满足人类的创造欲望,立刻又成为启发创造思考、培养文化气质的教材。软陶艺术的生命在于创新,不仅是作品
<正> 当前,金融战线许多基层行、处的职工从事着超负荷的劳动。随着社会主义有计划商品经济的发展,银行的业务将更加繁杂,压在银行职工肩上的担子,特别是压在城市基层行、处
青少年正确价值观的形成,对确保新疆社会稳定和民族团结,推进区域均衡发展和全面实现小康社会尤为重要。影响新疆少数民族青少年价值观形成的因素主要有四个方面,即社会文化
随着资本市场的不断发展,上市公司的融资方式日趋多样化。近年来,定向增发已发展成为我国上市公司进行融资的重要手段和主流模式,引起了学界的广泛关注。本文拟通过整理国内
研究了二种主要评定铁精矿成球性方法即维邱金法(静态法)和迪克逊法(动态法)的成球(?)指数间关系,结果证明其关系用直线方程式A=-ak+b表示(其中A代表迪克逊法成球指数,k代表
<正>老家位于一个比较偏远和落后的小山村。历史以来仅吃水问题,就让在那片土地上的父老乡亲吃尽了苦头。于是便有了不少关于吃水、用水的故事,其中的变迁过程,我至今记忆犹
期刊
<正> 建立保险经纪人队伍,实行保险经纪人制度是完善保险市场的一个重要环节,也是对保险市场的完善和补充。实践证明,其重要性已越来越得到人们的普遍关注。一、保险经纪人是
<正>也许,您对汽车的印象还停留在四个轮子或者三个轮子上,您是否曾想过将来有一天,两个轮子的汽车会跑遍街道?2010年5月,汽车行业的目光聚焦在了上海世博会通用汽车馆。三个
期刊