云计算环境下实时日志分析系统的设计与实现

被引量 : 0次 | 上传用户:handsomels
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
现有的云计算平台中,由于系统组织庞大、架构复杂,各个节点和组件所产生的日志数据量巨大且分散在不同节点中,存在着日志数据的格式多样、数据交换困难、数据的存储和检索困难、日志数据的读取效率低等问题,导致大量的日志数据信息无法被充分地挖掘利用。本文正是针对上述问题,围绕云计算环境下的实时日志分析展开了研究。本文的主要贡献有:(1)针对云平台复杂的物理架构和逻辑架构,基于分布式系统,结合实时流数据收集、海量数据的存储和索引、实时数据分析计算等功能模块,设计了一套完整的、可扩展的云计算环境下的实时日志分析系统。该系统能够帮助系统运维人员高效地检索整个系统中的日志记录,有效地管理各种日志数据,并通过日志数据快速了解当前系统的运行状态和服务状态。(2)该系统能够从海量且多样的日志数据中,实时地挖掘出数据所蕴含的信息,一方面对系统的实时运行状态进行分析,另一方面,通过使用机器学习的算法和模型,实现了对于系统未来可能发生的故障的预测。(3)系统提供了友好的展示界面对数据进行了可视化处理,生动地将系统中的数据及其所蕴含的信息展示出来,提高了数据分析工作的效率。
其他文献
作为一门新兴学科,传播学学科体系的完善离不开学术研究的不断深入。本文通过对传播学学术文献的观察和分析,深入总结、详细探讨了学科、内容和文献来源这三个方面最新的学术
由于刮板输送机在井下工作,条件非常恶劣,所以就设备耐磨性能而言选材非常关键,即中部槽数量多,中板是易损件和关键件,选用HARDOX450焊达耐磨钢板,通过对其力学性能、可焊性
简述了自助图书馆的兴起和目前在国内的发展,以及自助图书馆的开展现状,认为自助图书馆的发展需要量力而行。"自助"不能完全取代传统的图书馆服务,但是图书馆服务中必将融入
招商评估是帮助政府进行招商引资决策的重要辅助手段,但是当前的招商评估操作大部分都是人工完成的,不仅评估效率低下,而且评估结果不稳定,往往无法真实反映招商项目的优劣性
中国电视"民生新闻"与美国媒体的"公众新闻"具有某种表象的、话题式的联系,但两者兴起时面临的环境压力完全不同。社会制度层面的差异造就了这两场新闻运动运行的不同方向;公
公司债券市场受益外因的蓬勃发展更应激发对其自身可持续发展内力的探索。改变公司债券只是作为政府配置信贷资源手段的定位,授予企业根据财务需求安排债务融资的权利;协调三
利用自行研制的三元共聚耐热改性剂与聚氯乙烯(PVC)共混制成耐热管材专用料,考察了共混体系中耐热改性剂、抗冲改性剂、填料及热稳定剂等各组分对材料拉伸强度、冲击强度和维
<正> 日本旭玻璃公司新近开发一种隔音玻璃。该制品具有相当高的隔音性能,主要分两个品种:一种是隔音夹层玻璃,另一种是隔音多层玻璃。隔音夹层玻璃是在两块平板玻璃(均为6毫
电视的发展与时段不断拓展息息相关,从最初一天几个小时的节目到24小时滚动播出的电视节目,电视频道的时段意义和电视的实践发展有着深厚的渊源。本文通过对11个卫视节目表的