面向海量日志实时流处理平台的研究与实现

来源 :西安工程大学 | 被引量 : 0次 | 上传用户:boluoqb
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的进步与发展,数据量呈指数级增长。其中日志数据的研究对系统性能优化、用户行为分析、实时推荐等多个领域具有较高的价值,所以针对日志数据实时采集,挖掘内在数据信息并作出实时地响应具有较高的研究意义与价值。但目前在日志数据实时流处理的研究中,存在计算延迟高及资源调度时延较长等瓶颈问题。基于此,本文设计了面向海量日志数据实时流处理平台。本文的主要研究内容如下:(1)为了解决在Flink实时流处理平台中,原有的资源调度策略导致数据堆积与延迟过高问题,提出基于负载预测的资源调度策略。该策略主要包括:将基于机器学习的负载预测算法纳入到资源调度策略的制定流程中,同时兼顾考虑数据处理资源短缺与资源过剩两种资源配置场景,并且提出利用异步状态数据来制定基于在线的资源调度策略,以此解决基于离线的资源调度策略中数据堆积与时延过高的瓶颈问题。(2)基于中服云平台海量日志的场景,构建了海量日志数据实时流处理平台。该平台首先通过Flume对日志进行实时可靠采集,其次简单清洗,分类,将分类后的日志接入优化后的Kafka集群进行高效可靠的流转,接着Flink根据需求完成实时ETL,实时去重和实时异常告警等,最终HBase高效存储和Kibana展示。(3)本文设计的日志实时流处理平台部署应用于中服云上。且通过与中服云日志处理系统的对比,证明该系统不仅可以贴合中服云平台日志数据处理需求,而且具有良好优越性。
其他文献
载体是MBBR工艺的重要组成部分,载体品质的好坏直接影响到MBBR系统处理效果的好坏。近期研究发现好氧柔性悬浮生物载体Porous Bio-gel(PBG)特殊的物理特性非常符合MBBR工艺的基本要求。但目前对于PBG生物载体的研究主要集中在处理工艺的优化上,缺少对载体本身性能的深入探究与分析,难以为PBG生物载体推广应用提供有效的参考依据。因此本论文将通过研究MBBR工艺中不同条件下悬浮污泥浓度
图像语义描述任务关联到机器学习的两大研究方向:视觉方向和机器翻译方向,近年来一直是备受关注的研究任务。伴随着深度学习的快速发展,越来越多的科研人员开始重视图像语义描述任务,逐渐成为研究热点。给定一幅图像,根据图像内容算法可以自动生成描述图像的自然语言。该任务在图文互搜、图像辅助理解等领域具有较强的实际应用价值。近年来,对于如何高效使用图像特征以生成更准确的语义描述成为图像语义描述任务的主要研究方向
羰基化是一类重要的有机合成反应,广泛应用于医药、天然产物及功能材料等诸多领域。发展新型的羰基源已成为该领域的一大研究热点。尽管不同类型的CO替代物,如Mm(CO)n、(CH2O)n、CO2、DMF、TFBen等,已被广泛应用于羰基化合物的构建,寻找新的CO源实现羰基化合物的多样性合成依然具有重要的研究意义。本文以环丙烯酮作为唯一羰基源,桥环烯烃和3-碘代色酮为底物,基于钯催化的[2+2+1]串联反
大肠杆菌(Escherichia coli)作为食源性粪源污染的卫生学指标及水体卫生学检测的微生物指标,对公共医疗、食品安全、经济发展等领域带来了巨大隐患,因此水体和食品中大肠杆菌的快速定量检测对于控制传染病、保护环境卫生和人民群众身体健康都有着重要的意义。目前滤膜法等传统大肠杆菌检测方法存在检测周期长、检测效率低等缺点,而新型检测技术如免疫法等由于其各自的不足也无法满足现场检测需求,电化学生物传
随着我国人口老龄化加剧,髋关节疾病发病率逐年上升,重大疾病或意外伤害导致髋关节疾病患者数量日益增多,使得人们对高质量人工髋关节的需求更加迫切。其中人工髋关节材料组配,接触界面的力学性能以及摩擦磨损是影响其使用性能的重要因素,因此分析人工髋关节的接触压力和摩擦磨损特性对于提高其使用性能具有重要理论参考价值。本文采用有限元分析和摩擦试验两种方法对人工髋关节的接触力学性能和摩擦磨损情况进行研究。选取“硬
在现有的土遗址保护措施中,监测技术是实现预防性保护的主要技术手段。对于缺乏基础通信设施的,位于偏远地区的土遗址,采用ZigBee、WiFi等无线通信技术存在通信距离短、能耗高、抗干扰能力差等缺陷。本文根据土遗址监测的基本需求,研究并实现了一种基于LoRa技术的土遗址监测系统。本文主要研究内容如下:(1)根据土遗址的特殊历史价值、所处环境的气候变化,对常见的几种无线通信技术进行对比,结合低功耗广域网
溶液的热物理(密度)、声学(声速)、输运(粘度)和光学(折光率)等数据在化工过程设计和操作中十分有用。同时,研究密度、粘度等理化性质对混合物组成的依赖性,对于理解分子间相互作用至关重要。低分子量PEG通常被认为是环保无毒溶剂,具有大量重要的工业应用,但目前文献中还比较缺乏其与水及分子有机溶剂组成的混合体系的物理化学等性质。本文测定了八个二元体系x PEG 400+(1-x)水/甲醇/乙醇/正丙醇/
多级A/O-MBBR组合工艺因其将生物膜法和活性污泥法相结合,具有高处理效率和稳定运行性能、低能耗和低成本等优点而被广泛工程化应用。本研究针对西北地区回收水利用率低及氨氮废水种类多、危害大的特点,将柔性悬浮载体PBG与多级A/O-MBBR组合工艺相复合,对其展开一系列运行探究;将不同尺寸PBG载体投加于MBBR工艺中稳定运行,对比其对葡萄糖模拟废水的处理效能,监测载体保有量变化和微生物群落现象;通
近年来,随着科学技术的飞速发展,各种无线通信设备(如便携式电子设备、无线设备、手机等)逐渐小型化,给人们带来了诸多便利的同时也带来了严重的电磁干扰(EMI)。因此,开发高性能电磁干扰屏蔽材料在商业和军事通信技术中具有重要意义。金属及其复合材料是电磁干扰屏蔽中应用最广泛的材料,但是由于金属的高导电性,导致电磁波在金属表面发生多次反射造成二次电磁污染。此外,其高密度、机械柔韧性差、抗腐蚀性差以及繁琐昂
虚拟现实技术因其强可交互性、高沉浸感和多感知性,被广泛的应用在各类教学场景中。然而教育信息资源迅速增长容易引发知识内容过载,复杂、无序的碎片化知识容易导致学生在学习过程中产生知识负荷的问题,传统教学模式又存在交互性差、安全系数受限等问题。因此,本文提出构建知识树系统平台,通过虚拟现实技术实现知识树内容三维可视化,将原有教学知识内容多维度关联展示,辅助添加课程内容实验,有效加强学生知识感知能力,提升