Hadoop下基于滑动窗口的网络流量异常检测技术研究

来源 :国防科学技术大学 | 被引量 : 0次 | 上传用户:lt96046
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着信息技术的高速发展,网络已经与人们的生产生活密不可分,网络流量数据呈现爆发式增长的态势,与此同时,网络安全问题也越发突出。随着大数据时代的到来,传统的网络流量异常检测技术面临着异常检测准确率不够高、响应速度不够快、系统存储和处理能力不足等重大挑战。结合分层聚类和滑动窗口的方法,本文提出了一种基于Canopy和加权K-means的网络流量异常检测算法,并研究了该算法在Hadoop平台下的并行化设计与实现,最终可以实现对海量网络流量数据的异常检测,同时具有响应速度快、识别准确率高等特点。本文主要工作是:1、基于Canopy和加权K-means的网络流量异常检测方法研究。结合Canopy算法和加权K-means算法,提出了一种分层聚类模型下基于滑动窗口的高维网络数据流异常检测算法CHSWStream(Canopy High Sliding Window Stream)。该算法于在线层对高维数据PCA降维后,利用Canopy算法实现初始聚类,采用指数直方图技术提取概要信息,通过滑动窗口更新过期数据,离线层采用加权Kmeans聚类算法,最终实现检测速率与检测准确度的统一。2、Hadoop下基于分层聚类的并行化网络流量异常检测方法研究。针对上一部分提出的CHSWStream算法,研究了该算法在Hadoop平台下的MapReduce并行化设计与实现。通过实验验证,该算法在Hadoop平台下的运行效率得到了较大的提高。
其他文献
深海沉积物、冰心、黄土-古土壤、湖泊沉积物、树轮、礁珊瑚、洞穴沉积物是古气候和古环境重建的重要档案库(Mazany et al.,1980;Singer,1984;Liu et al.,1991;Thompson,1997
会议
公共环境下视频监控系统的普及所带来的海量视频给传统的人工智能视频监控分析方法带来了前所未有的挑战。在监控视频分析中,行人重识别具有重要的理论研究意义和实际应用价
人脸识别在不同应用场景下对准确率、精确率、召回率等要求不同,容易受到光照,姿态变化以及遮挡的影响,因此研究不同应用场景下人脸识别算法的参数变化,对提高人脸识别水平有
为了避免长期、大面积使用硼酸湿敷时导致的吸收中毒,我们使用河北本草药业有限责任公司出品的“疮疡灵”(复方黄柏液)治疗皮肤疡渗出期的病人123例,取得较好疗效.123例病人
会议
雷达作为一种实现目标定位与追踪的主流手段,近年来在各类军事活动中占据着越来越重要的战略地位,这也促使雷达向更高分辨率,更大宽带方向发展。它带来了一系列关于雷达开发
随着人工智能和大数据产业的发展,人类社会的各个领域都积累了大量的高维数据,如何有效地进行高维数据挖掘成为了迫在眉睫的问题。为了提高高维数据挖掘中各类算法的性能和效
介绍了一种针对运动摄像机拍摄的视频采用基于时空显著性的运动目标检测方法。通过边界先验的流形排序,估计每帧图像前景和背景的初始概率分布,生成前景目标的空间显著图。通
在语文的教育中词语使重要的一项,因为它是语文学习的一个基础,所以小学的语文词语教学就显的非常重要’但是在传统的教学中,老师对学生进行词语的教学主要是运用背、写等方
IP组播虽经多年研究,仍未在全球范围内大规模广泛部署,依旧面临很多实际问题。主要由于IP组播在投入商业应用服务中还存在组播成员不受控、资源不受约束、缺乏业务驱动模型等
~~
会议