基于ELK的网络安全日志管理分析系统的设计与实现

来源 :北京邮电大学 | 被引量 : 7次 | 上传用户:wcl929156
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近些年,互联网的浪潮正给人们的生产生活带来巨大变化,另一方面,网络空间的安全问题也开始凸显。数以万计的设备每天产生大量的安全日志,而网络安全日志的管理分析是一种在安全领域里极为重要的防御手段。通过对网络安全日志的管理和分析,能有效的提升工作效率,对于解决业务问题也有帮助。目前已投入使用的网络安全日志分析系统层出不穷,随着技术和业务的发展,迫切需要提升系统的处理能力。本文针对网络安全日志管理分析系统的实际问题,以日志管理分析系统为主要研究对象,结合日志系统面临的问题和日志分析算法的研究现状,设计了基于ELK的网络安全日志的管理分析系统,用于对大数据量日志的管理和分析工作。增强系统的爬取数据和分析告警功能,并与大数据存储技术相结合,提升整体系统的性能。本文的研究内容主要包括以下几个方面:1、深入学习了日志系统的关键技术和日志分析算法的现状与未来的发展趋势,对文章涉及的主要技术和开源工具进行了综述。2、对基于ELK的网络安全日志管理分析系统进行了总体设计。系统主要分为六大模块,分别完成日志收集功能、日志处理功能、日志检索功能、日志展示功能、日志存储功能和日志分析和告警功能。在总体功能设计基础上,对各个功能模块进行具体的需求分析和设计。3、对设计的日志系统进行了具体实现,主要基于ELK技术栈,并结合Scrapy爬虫框架、Redis消息队列和HDFS存储技术,将六大模块进行了具体实现。并使用PCA和one-class SVM算法作为分析模块的主要分析算法,实现了日志分析的重要功能。4、最后对该日志系统进行功能测试和性能测试,结果表明新增的日志收集模块和日志分析与告警模块提高了整体系统的性能,并证明了该系统在处理海量日志方面具有一定的优势。
其他文献
在网络技术不断发展和SCADA系统漏洞不断增多的今天,网络攻击也向着分布化、规模化、复杂化等趋势发展,仅仅依靠被动的修补漏洞或者更新病毒库的方法已经不能满足当前情况的
以西北农林科技大学园艺学院开设的园艺植物组织培养课程为例,分析了教学中存在的问题,从教学内容、教学方法与手段、实验教学等方面进行了课程建设和教学改革的探索,旨在提
目的系统评估本室临床化学33项指标的检测试剂对抗坏血酸、乳糜、血红蛋白、结合胆红素、游离胆红素的抗干扰性能。方法以待评估试剂对上述各干扰物的6个不同水平样品检测,计
悲剧有英雄的悲剧,也有普通人的悲剧。但英雄的悲欢离合毕竟在一般人的心中难找到直接的相同之处,惟有普通人的遭际能与我们大多数人的感情融合到一起,才有巨大的艺术感染力
工业4.0时代,智能建造技术变革着桥梁工程行业,桥梁工程专业本科培养方案中,传统的实践教学方式暨生产实习环节,面临全新的挑战。在智能建造背景下,需要用信息技术手段变革传
<正>统计数据显示,从2014年12月1日至2015年2月28日止的岁末年初贺岁档,长达三个月共90天,全国票房达到了94亿元创历史新高;比2013-2014年同期贺岁档的74亿元增加20亿元,增加
期刊
期刊
告知义务是保险法的一项重要的制度,对保险业的健康发展起着至关重要的作用。由于保险关系是一种风险关系的转移,加上保险人与投保人分别存在着信息不对称的情况,保险人对所
手机游戏在新媒体环境下的发展非常迅速,这也使得大量的美术设计师投身当中。在如今的日常生活中,几乎人人离不开手机的应用,手机本身具有的便携性使得其有着庞大的用户群体
珠光颜料是一种具有珍珠光的颜料,其包覆材料的种类和结构决定了珠光颜料所具有的性质,一直是国内外研究热点之一。文摘介绍了殊光颜料包覆材料的种类,并对国内外相关专利进行了