面向物联网业务的单源最短路径异常日志数据分析技术研究

来源 :中国化工贸易 | 被引量 : 0次 | 上传用户:resiaton
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着物联网业务系统数据采集点的逐步增多,日志数据量增长呈现指数趋势,传统的日志分析方法不再适用.针对海量的应用日志、错误日志、系统日志等分散存储在不同设备中,企业会面临异常监控发现不及时、日志分析效率低下、统计检索繁琐等问题,针对此问题提出了一种海量日志处理技术,该技术替代了传统的Shell脚本对日志的处理方式,基于图论中最短路径的Dijkstra算法,在MapReduce框架中进行了实现,将其并行化.实验结果表明,通过分布式算法处理海量日志,使用控制器和存储来控制和管理所有的路径和链接.因此,查找效率大大提升.另外,通过在一个网状网络的小型测试平台的实验,证明存在异常日志的网状网络可以快速查询到,基于Dijkstra方法改进的日志处理算法具有更小的时间复杂度,可在少量迭代次数之内找到异常日志所关联的节点,极大地提升了异常日志分析的效率.
其他文献
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
名称:氮化硅结合碳化硅陶瓷坩埚的制作方法rn申请号:CN201610328702.1rn公开(公告)日:2016.09.28 申请日:2016.05.18rn申请(专利权)人:顾向欣rn发明(设计)人:顾向欣rn本发明
期刊
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
报道一例妊娠晚期合并暴发性1型糖尿病病例,患者在妊娠期间出现急骤血糖升高、恶心、呕吐、腹痛等消化道症状需警惕暴发性1型糖尿病可能。
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊
该文从挂篮荷载计算、施工流程、支座及临时固结施工、挂篮安装及试验、合拢段施工、模板制作安装、钢筋安装、混凝土的浇筑及养生、测量监控等方面人手,介绍了S226海滨大桥
期刊