设备大数据压缩存储查询平台建设及工况聚类算法

来源 :北京交通大学 | 被引量 : 0次 | 上传用户:sunfeaml
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在工业4.0的背景下,物联网相关技术的逐步兴起使其终端设备产生了愈来愈多的数据,对海量的数据需要借助大数据、数据挖掘等技术进行处理和分析。在实际应用中大量的设备传感器数据存在着许多可供压缩的冗余信息,需要在数据存储过程中进行压缩存储以缩减其数据规模,存储压缩后的数据还应满足用户提供实时的查询检索功能。另外设备运行过程中积累的大量运行数据也为数据的挖掘提供了基础,可用于对设备的运行状态进行分析,例如对设备工况进行识别。针对以上需求,本文在建立设备大数据平台的基础上进一步提出设备数据存储压缩查询以及工况聚类算法,主要研究内容如下:(1)面向设备的全生命周期以及设备信息分析共享的需求,建立设备大数据存储分析管理平台。平台底层对数据格式进行解析之后存储至HBase中,HDFS用于存储底层数据的原始文件,Spark作为计算引擎可用于数据指标的再计算,同时数据平台应用层还可用于设备数据的可视化显示操作。(2)针对设备数据在存储过程中存在的大量冗余信息,本文提出查询压缩方案以减少数据存储空间。将数据按不同的数据通道分别进行压缩后存储至HDFS中,并将存储的文件块信息写入到数据库中。接收到查询请求后,首先在数据库中查询到数据块位置,然后对相关文件进行解压缩,返回查询结果,实验表明可以满足基本的查询需求。(3)针对无标签的传感器设备性能监测数据,本文使用聚类算法对设备运行工况进行识别。对数据进行预处理削减噪声的影响之后,采用基于划分的无监督K-Means和基于密度的DBSCAN算法对运行数据进行分析,通过相关算法对聚类参数进行确定,并根据聚类的有效性评价指标对聚类效果进行了评估,对两种算法针对该任务的优缺点进行了比较,实验表明在本任务中DBSCAN聚类算法有效性指标会略好于K-means算法。
其他文献
司法公正是诉讼程序设计公正和程序规则选择运用的公正。律师自由是指律师实现律师价值的独立性状态。司法公正与律师自由两者的关系从表层看似乎是紧张亦或是冲突的,深究其
<正> 毛泽东同志在发展列宁关于对立统一的学说是辩证法的核心和实质这一原理的同时,又进一步提出了共性个性、绝对相对辩证统一的道理是事物矛盾问题的“精髓”的学说。他指
给予小鼠以山羊黄配制的水悬液,能显著拮抗戊四氮所致惊厥,减少小鼠自主活动,增强戊巴比妥钠对小鼠的催眠作用,显著提高小鼠在常压下耐受缺氧的能力,还能抑制多巴胺引起小鼠
企业思想政治工作是指在管理中对员工思想上的问题进行解决,使员工对工作和生活具有更加积极正面的态度。论文对国有企业思想政治工作与企业文化建设的关系进行了分析,阐述了
中关村人才特区、张江高科技园区、天津经济技术开发区、苏州高新技术园区均出台了一些高层次人才政策。投入和服务是国内几大地区高层次人才政策的主要关注点。服务平台载体
<正>目的:探讨经尿道等离子前列腺电切(TURP)术后并发症及预防。方法:回顾性分析我科2014年7月‐2015年7月48例经尿道等离子前列腺电切术治疗前列腺增生患者的术后并发症,分
会议
安全,是人类生存与发展的基本保障之一,也是经济发展与社会建设中永恒的主题。中小学校园安全问题愈来愈突出,安全形势越来越严峻,成为了影响教育乃至社会稳定的一大隐患。校
目的观察盐酸布替萘芬乳膏联合伊曲康唑治疗念珠菌性龟头炎的临床疗效。方法将100例患者随机分为两组,各50例。治疗组每天午餐后口服伊曲康唑200mg,同时每日早、晚各1次清洗
介绍了价值工程的定义及在电力工程评标中应用的可行性,对电力建设工程中的评标指标进行了量化分析,利用价值系数的大小进行判断,确定中标人,确保建设项目招标公正选择承包商
20世纪90年代是美国学界研究中国明清时期西南边疆史的分水岭。受西方人类学界对中国西南少数民族研究,及西方中国学研究“边疆”范式的激发和推动,西南边疆史研究日益演变为美