基于Storm的设备日志流数据实时处理系统的设计与实现

来源 :南京大学 | 被引量 : 0次 | 上传用户:cccpx918
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着物联网技术的兴起,工业企业中机器和传感器等设备每时每刻都在产生海量的设备日志数据。这些数据具有实时性强且没有止境的特点。工业企业需要深入挖掘这些设备日志流数据中的潜在价值,来提高企业效益。当前工业企业中采用是基于Hadoop的设备日志数据处理系统,这类系统从数据库中直接获取静态的日志数据,并对数据进行离线处理。系统虽然吞吐量高,但由于响应时间没有保障,只适合对海量静态日志数据做批处理,无法满足处理设备日志流数据的实时性需求。流数据计算框架Storm的出现,让实时处理设备日志流数据成为可能,但Storm采用单个控制节点来负责整个集群任务分配、代码分发和监控等工作,当控制节点宕机之后,提交给集群的拓扑任务便无法执行,集群系统存在单节点失效性问题。本文针对目前设备日志数据处理系统中存在的实时性问题和单节点失效性问题,设计并实现了基于Storm的设备日志流数据实时处理系统。首先,针对实时性问题,系统采用Storm作为日志流数据处理的框架,省去批处理的数据收集时间和作业调度时间,让系统的响应时间缩短。同时系统在对日志流数据处理时,增加滑动时间窗口,只对时间窗内的日志流数据进行处理,保证了处理数据的实时性。其次,针对单点失效问题,系统采用主-从多个控制节的优化集群,在保证了集群多个从控制节点与当前主控制节点信息同步的基础上,利用Zookeeper集群的协调机制,在主控制节点宕机后,从控制节点利用竞选方式产生新的主控制节点,保证即使集群中主控制节点发生故障,其中一个从控制节点也会接管继续运行拓扑任务。本系统以可视化的方式将实时处理后的结果展示给工业企业的车间人员,旨在让车间人员通过使用本系统完成对车间设备运行状态的实时跟踪与监控,帮助工业企业智慧化管理车间的机器设备,进而提高企业生产效率,节约生产成本。
其他文献
人类活动产生的夜间灯光对自然生态系统中的诸多生态过程产生了显著影响。为了研究城市夜间灯光对常绿乔木的影响,本文以华东地区典型常绿行道树种香樟(Cinnamomum camphora)为对象,在南京市一条典型道路上开展了调查,研究其对不同夜间路灯照明强度的生长响应。实验选取路灯正下方(即近灯处)以及位于两相邻路灯中间位置距路灯光源相对最远(即远灯处)的香樟各15棵,结合树冠南北朝向的差异,研究了夜间
多机器人编队问题是多机器人协同控制领域的重点研究方向之一,它具有非常重要的研究价值和现实意义。随着计算机技术和人工智能等学科的快速发展,人们越来越关注多机器人系统中的分布式编队控制,即研究如何在没有集中协调控制的情况下,仅通过个体之间的局部通信与协调,便能完成整体的编队任务。本文围绕多机器人的分布式编队问题展开讨论与研究,具体工作如下:(1)首先,介绍了多机器人编队的研究背景、意义以及国内外的研究
研究背景:肺癌是发病率和死亡率增长最快,对人群健康和生命威胁最大的恶性肿瘤之一。非小细胞肺癌(Non-small-cell lung carcinoma,NSCLC)包括鳞状细胞癌(鳞癌)、腺癌和大细胞癌,约占所有肺癌的80%。大多数病人诊断明确时已经是晚期,不适于进行手术根治,而传统放化疗等临床治疗手段存在耐药反应、毒性反应和有效性局限等问题,这给临床治疗方案的选择带来极大的困难,因此开发新的治
学位
学位
学位
自由基介导的远程迁移反应可以快速进行基团的位置异构及远端惰性位点的再修饰,具备选择性好、适用性广等特点,因而在惰性C-H键、C-C键的精准活化和官能化研究中得到了广泛的关注。早期,一般依赖紫外、高温、过量强氧化剂和自由基引发剂等苛刻条件来实现自由基远程迁移过程,但是这些体系有很大的局限性,如官能团容忍度较差、实际应用困难等。近些年,基于生态优先、绿色可持续等发展战略的需求,安全、洁净和简便的可见光
学位
近年来,癌症和慢性疾病患病率逐年增加。疾病的早期发现有助于疾病治疗并显著降低死亡率。因此,疾病的早期准确诊断是非常重要的问题。生物标志物是指在特定生理状态下可供客观测量和评价某种特征性的生化指标,在疾病的预测、诊断、监测、治疗和预后评估中非常重要。生物标志物主要存在于组织(细胞)或体液中,常见的生物标志物可以概括为两类:核酸和蛋白质(多肽)。目前,尽管有很多种常规的检测方法用于临床诊断中,但是大多
目的:运用瞬时弹性成像技术评估体重指数(BMI)≥ 32.5 kg/m2合并非酒精性脂肪性肝病(NAFLD)患者代谢术后3月肝脏脂质含量、纤维化程度,并探究代谢术后短期内肝脏脂肪变性及纤维化转归的预测因素。方法:纳入BMI≥32.5 kg/m2合并NAFLD行代谢手术患者50例,应用瞬时弹性成像技术检测术前、术后1月和3月患者肝脏脂肪变性及纤维化,并测定肝功能、糖脂代谢、人体成分等指标,评估影响肝