基于LSTM的日志异常检测方法研究

来源 :西安电子科技大学 | 被引量 : 0次 | 上传用户:lyan4321
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着计算机技术的快速发展,人们对计算机系统与应用程序的安全性和可靠性的需求日益增加,而日志记录了系统与应用软件的特定事件的活动信息,是反映系统运行状态与性能的重要参考内容,因此如何快速准确的查找出日志数据中的异常部分,是维护系统与软件安全稳定的首要任务。对于日志异常检测,主要面临以下几个方面的难题:不同系统与软件的日志结构不一样,日志异常检测需要有很高的实时性,普通日志异常检测方法对日志内容的利用率较低,分析日志上下文依赖关系等。针对以上的几个问题,本文提出了基于长短时记忆网络(LSTM)的日志异常检测方法,主要研究内容如下:(1)针对不同系统与软件的日志结构不同的问题,本文使用了一种在线日志结构化解析方法(SPELL方法),基于最长公共子序列,将非结构化的日志数据解析为结构化、机器学习模型可学习训练的日志数据内容;(2)针对日志数据的上下文依赖关系以及充分利用完整的日志数据,本文分别构造了基于LSTM网络的执行路径异常检测模型与参数异常检测模型,分别对日志数据的常量序列与参数序列进行检测,模型输入相邻历史日志序列预测并输出当前时刻的日志序列预测值,通过预测值与实际值对比,将差异较大的日志内容判定为异常;(3)为了实现日志异常检测方法的实时性,本文针对执行路径异常的假阳性结果进行模型更新,通过输入假阳性结果反向传播更新模型的权重参数,使模型学习新的日志模式。最后,本文通过三部分实验:对执行路径异常检测模型与PCA、IM、Deeplog等方法在HDFS数据集上进行精确率、召回率、F-measure三个指标的对比实验;对参数异常检测模型输入结构化解析后的Tableau Prep Builder数据集生成MSE高斯分布;对训练好Blue Gene/L数据集模型的假阳性结果通过反向传播更新权重参数以实现模型更新的效果,实验结果证明了本文方法相对于传统异常检测方法性能方面有较大的提升,验证了本文方法的实时性、高效性、准确性。
其他文献
幼儿课程资源是幼儿园课程实施的重要组成部分,在幼儿园活动中起着重要的作用,它不但是幼儿园教师开展活动的依据,也是幼儿获得知识、技能的重要来源之一。因此,教师对课程资源的使用状况可以在一定程度上反映教师的课程实施水平。目前,农村学前教育受到广泛关注,那么,在南疆农村地区使用普遍的的幼儿园课程资源的具体使用状况是怎样的呢?这是当前新疆幼儿教育界都需要关注和探讨的现实问题。本研究选取南疆各地区的农村幼儿
软件定义网络(SDN)将数据平面的控制平面分离,数据平面内的转发设备通过缓存控制平面下发的转发策略来实现数据包的快速转发。但硬件交换机由于制造成本和功耗的限制,缓存容量有限,容易遭受资源耗尽攻击。流表溢出会导致数据包的转发时延与丢包率上升,影响网络的稳定性与服务质量。本文针对SDN中交换机流表溢出问题,研究交换机流表溢出缓解机制,提出了基于流表项限速下发机制的缓解策略,设计并实现了SDN交换机流表
如今,游戏产业已发展成为具有巨大潜力和广阔应用前景的新兴产业。面对广阔的市场空间,越来越多的企业想从中获得高额利润,抄袭、盗版等现象屡见不鲜。其中,游戏纹理图像数据常遭非法窃取,这导致游戏开发商的利益受到损害。游戏纹理图像与普通数字图像不同,需要经过纹理压缩算法压缩存储,常规的信息隐藏算法直接应用会导致秘密信息无法提取或者图像质量遭到损害等问题。本文针对游戏纹理图像的版权保护问题,并结合信息隐藏相
室内定位技术随着人们日益增长的物质文化需要逐渐走进人们的视野,引起了人们广泛的关注。而地磁信息以其无辐射、无源、全天候、全天时、全地域、低能耗的优良特征被一些专家学者所发现并将其应用到室内定位导航中。本论文主要就是将地磁信息进行采集、处理并将其应用到室内定位中,主要工作包括:(1)首先从硬件设计和软件设计两方面介绍了地磁采集设备,接着分别从实验区域分别以40cm和25cm的采集间距对整体和局部进行
推荐系统是计算机算法领域的重要技术,在现今大数据时代的背景下,推荐系统在各个领域中的应用也越来越广泛,推荐系统也是许多互联网服务的核心环节,电商、新闻、短视频等领域,都离不开相关的推荐系统。推荐系统的核心是推荐算法,相较于基于流行度的推荐算法,千人千面的个性化推荐算法可以有效的提升用户的使用体验,同时为提供服务的商家带来明显的收益。基于会话的推荐场景是移动互联网里一个常见的推荐场景,用户在每次产生
随着现代雷达的发展和电磁环境的日益复杂,雷达与环境间的交互成为越来越重要的研究热点。在认知雷达的概念中,环境感知和波形设计是提升雷达探测性能的关键。论文主要研究基于环境感知的目标检测和波形设计方法,通过感知环境中的杂波信息,结合目标的先验知识,设计最优检测的发射波形,动态地选择检测器类型,从发射和接收两端同时改善雷达在杂波环境下的检测性能。此外,在电磁环境对抗中,欺骗式干扰具有易产生、小功率、难对
分子印迹电化学传感器由于独特的选择识别性和高灵敏度等优点在食品安全、环境监测和分析检测等领域具有很高的实际应用价值。本论文揭示了两种新型分子印迹聚合物体系的识别机理,并结合分子印迹技术构置了两种新型电化学传感器。本论文的主要研究内容如下:(1)本文以磺胺二甲基嘧啶(SM_2)为模板分子,以甲基丙烯酸(MAA)、甲基丙烯酸甲酯(MMA)、甲基丙烯酰胺(MAM)、噻吩(Th)、吡咯(Py)、3,4-乙
近年来为满足社会经济的发展对公共产品的需要,政府公共项目逐年增多。各类政府投资项目的审计监督成为人们关注的问题。为保证此类项目建设的顺利进行及降低投资风险,更好实现其经济、社会效益,基于风险导向的审计监督越来越受到重视。传统审计模式下的政府投资项目绩效审计主要以财务审计为中心,难以满足政府投资项目审计对效率性、重点性的要求。风险导向审计可以更加全面、客观地去了解分析被审计单位的经营管理风险,针对项
随着互联网技术的快速发展,在线社交逐渐成为了一种人们的日常生活方式。但是,随着社交数据积累速度的加快,人们很难在海量的数据背景下快速的找到想要的数据资源并应对相关情报,因此,设计并实现一个用于发现社交网络中有影响力用户的系统具有很大的应用价值。本文在网络表示算法的结果上划分网络社区,并在子网中进行网络影响力最大化的研究,本文主要工作内容如下:在网络表示方面,针对整张网络数据量大,数据分布不均匀的情
随着我国改革开放政策的不断推进,国民经济获得前所未有的发展,在这其中地方企业国资的贡献度及重要性不可忽视,因此,完善国资监管体系、加强地方国资监管力度、落地国资监管措施在发展壮大国有经济的进程中尤为重要。国有资产同时具备不可分割的政治属性与经济属性,也存在分级监管的现状,加强完善监管机制、分级落实监管工作,既能激发各级国有经济活力,又能为地方国企实现健康发展提供有力支持,实现国有资产的保值增值。在