论文部分内容阅读
近些年,互联网的浪潮正给人们的生产生活带来巨大变化,另一方面,网络空间的安全问题也开始凸显。数以万计的设备每天产生大量的安全日志,而网络安全日志的管理分析是一种在安全领域里极为重要的防御手段。通过对网络安全日志的管理和分析,能有效的提升工作效率,对于解决业务问题也有帮助。目前已投入使用的网络安全日志分析系统层出不穷,随着技术和业务的发展,迫切需要提升系统的处理能力。本文针对网络安全日志管理分析系统的实际问题,以日志管理分析系统为主要研究对象,结合日志系统面临的问题和日志分析算法的研究现状,设计了基于ELK的网络安全日志的管理分析系统,用于对大数据量日志的管理和分析工作。增强系统的爬取数据和分析告警功能,并与大数据存储技术相结合,提升整体系统的性能。本文的研究内容主要包括以下几个方面:1、深入学习了日志系统的关键技术和日志分析算法的现状与未来的发展趋势,对文章涉及的主要技术和开源工具进行了综述。2、对基于ELK的网络安全日志管理分析系统进行了总体设计。系统主要分为六大模块,分别完成日志收集功能、日志处理功能、日志检索功能、日志展示功能、日志存储功能和日志分析和告警功能。在总体功能设计基础上,对各个功能模块进行具体的需求分析和设计。3、对设计的日志系统进行了具体实现,主要基于ELK技术栈,并结合Scrapy爬虫框架、Redis消息队列和HDFS存储技术,将六大模块进行了具体实现。并使用PCA和one-class SVM算法作为分析模块的主要分析算法,实现了日志分析的重要功能。4、最后对该日志系统进行功能测试和性能测试,结果表明新增的日志收集模块和日志分析与告警模块提高了整体系统的性能,并证明了该系统在处理海量日志方面具有一定的优势。