应用性能管理系统中数据处理子系统的设计与实现

来源 :北京邮电大学 | 被引量 : 2次 | 上传用户:guojiaguangdian
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的来临,对应用性能管理(APM)提出科学合理的方法越来越受到企业重视。一方面,通过APM,企业能够及时发现并解决系统存在的问题,甚至能够预测系统是否会出现问题;另一方面,APM可以为企业提供性能优化方案,节省成本。APM系统进行性能分析的基础是对性能指标数据进行收集和预处理,保证数据的实时性、可用性、准确性。指标数据的多样性、分布式集群的复杂性、数据量的爆炸性增长使得APM系统的数据处理面临巨大挑战。为了能够快速、准确地处理APM系统中复杂多样的数据,为性能分析提供数据支持,本文设计并实现了分布式数据处理子系统。该系统针对分布式集群中需要监控的大量任务的海量数据,能够屏蔽底层系统的异构性,有效收集分散在不同机器上的数据,并对其进行类型转换、脏数据清洗、平滑处理、异常过滤等实时处理。本系统基于流计算平台Storm构建,使用消息中间件Kafka接收并存储原始数据,设计并实现了基于指标参数类型的中位数、EM算法相结合的数据清洗算法、基于最小二乘法的异常数据检测与过滤算法,极大地提高了原始数据质量,为保证应用性能分析的准确性提供了良好的数据基础。同时,本系统还具有良好的扩展性、可用性和性能。本文以APM系统为背景,详细介绍了数据处理子系统的设计和实现。首先介绍了 APM系统的国内外研究现状,结合目标系统的数据特点,简要分析本论文的主要研究内容。然后,简单介绍了系统实现所需的分布式数据处理相关技术框架,如Storm、Kafka等,并对数据处理相关算法,如数据清洗、数据质量增强的背景知识进行说明。接着,阐述了应用性能管理软件的项目背景和指标评价体系,并从功能性和非功能性需求两方面分析本系统的实现目标。然后给出了系统的总体设计,说明了系统各模块之间的交互接口和交互的流程,设计了系统关键数据结构。然后利用类图和流程图对系统的实现细节进行说明,并设计测试用例,验证系统是否与需求一致,最后对实现本系统的主要工作进行了总结,并对下一步工作进行了展望。
其他文献
[目的]探讨水胶体敷料和医用橡皮膏对腰大池引流术后引流管固定的效果。[方法]将76例行腰大池引流术的病人随机分为观察组和对照组各38例,对照组采用医用橡皮膏固定引流管,观
<正> 一日本汉学家清水凯夫教授在《<文选>编纂实况研究》一文中提出:昭明太子并非《文选》编纂工作的实际主持人,“太子亲信刘孝绰是最有力的编纂者”,“《文选》是据刘孝绰
课程外包作为企业培训外包催生的校企合作课程新模式,是以高校为主体选择优势资源提升教学质量的另类尝试。厦门华厦职业学院与厦门网中网企业《出纳实务速成》课程外包的个
以新生代农民工为研究对象,以问卷调查分析的方式探讨了新生代农民工工作-家庭冲突和社会支持对其主观幸福感的影响,并考察了社会支持对农民工幸福感的调节作用。通过层次回
<正>最近半年,运动品牌李宁的频频刷屏之举,让人仿佛又看到昔年那个高调的"运动老大"归来。在业绩回暖、扭亏为盈之后,李宁似乎卯足了劲想要重回昔日的巅峰。就目前来看,王者
期刊
经济新常态背景下,我国着力打造和建设"自贸区"。依托"自贸区"发展职业教育,呼应了经济发展与职业教育互动、"准公共产品"、"谁投资谁受益"等理论。在实践中将职业院校的部分
<正>有消息称微软在研发一种3D触觉反馈触摸屏,该屏幕使用触觉反馈技术,通过阻力和振动给用户提供反馈,使用户能够清楚地感觉到屏幕中物件的形状和重量。这个3D触觉反馈触摸
随着互联网信息化程度的不断深入,作为IT技术的一个主要分支,应用性能管理(APM: Application Performance Management)系统帮助企业保障并提升了其业务的关键应用的可用性、
<正> 一、高校非正式群体与“意见领袖” 按照社会群体的正规化程度以及成员之间的互动关系,我们可以把社会群体划分为正式群体与非正式群体。 高校学生正式群体是指有正式文
在晚明纷繁复杂的政治变动中,党争激烈,门户角立。晚明党争往往由言官发起,并成为其中主导力量。在封疆案中,言官不顾国事,党同伐异,掣肘疆事,令熊廷弼一筹莫展,致使辽东战事