近年来,网络技术飞速发展,各类网络应用层出不穷,全世界的人们都享受着互联网带来的便利。然而另一方面,网络也时刻面临着重大的威胁。如果无法有效防护网络安全隐患,全球范围网络用户的信息安全和日常需求都无法得到有效保障。网络流量作为网络通信的重要成分,可以充分反映出网络中存在的安全问题及隐患。因此,为了保证网络环境的安全、稳定,精准高效地对异常流量进行检测的意义不言而喻。本文的主要研究对象是异常流量检测方法。经过对传统异常流量检测算法的研究与对比,基于网络流量特征提出了随机映射与聚类算法相结合的异常流量检测模型,其中使用随机映射优化了聚类算法所需的数据降维,基于改进EM算法对检测算法的性能进行优化。最后基于这两种方法优化后的异常检测模型设计了异常流量检测系统,为网络通信安全提供有力保障。本文的主要工作如下:1.通过调研分析网络流量的格式和特征,从流量数据包的统计属性层面提取了多维特征用于异常检测,通过对现有降维方法的研究,采用随机映射的方法来对待测数据进行预处理和降维,以此来优化算法的检测能力。最后通过实验对比验证了采用的降维方法可以提高检测算法的准确率。2.通过对聚类算法异常流量检测的研究,针对现有算法在面对数据缺失信息量较大时检测效率差的问题,提出一种改进最大期望算法,可以提高检测的稳定性,对检测模型的性能达到优化的效果。通过选取参数并针对性设置实验,得出改进算法准确率更高,误报率更低,检测性能更优的结论。3.对异常流量检测系统进行设计与实现,将改进的检测方法应用于异常流量检测系统,实现既可以进行基于黑名单测试的静态检测,也可以对待测流量进行模型检测。最后通过选取参数并针对性设置实验,对系统的检测性能和功能进行了测试。通过对系统进行测试,验证本文的检测方案可以有效提高异常流量检测率,并对网络环境提供防护能力。