随着计算机网络规模和应用领域的日益扩大,网络已经成为人们日常工作和生活的重要组成部分。但是随着网络的普及程度越来越高,由网络攻击、蠕虫病毒、恶意下载、设备异常等因素导致的网络流量异常对网络性能的影响越来越大,某些带有攻击性的异常流量干扰了正常的网络运行秩序,对网络安全造成了严重威胁。在这种情况下,如何及时而准确的检测出网络流量异常,保证网络的正常运行,为用户提供一个良好的网络环境成为一个备受关注的研究课题。如果将流量看作一个时变信号,流量的异常不仅表现在时域上,在频率域上同样会表现出来,而且可以更加深入的表现出异常的某些内在特征。现有的流量异常检测方法大都仅仅讨论了流量信号的时域特征,而对其频域特征较少涉及。本文研究基于时频分析的流量异常检测方法,就是要弥补单纯时域分析方法的不足,更加深入的发掘流量异常在时频域上表现出的这些内在特征,从而更加准确的检测流量异常。本文总结了已有的各种网络流量异常检测相关的方法和模型,在应用时频分析方法检测流量异常这个方向上进一步研究,提出了一些新的分析思路,并结合时频分析、模式识别及统计分析算法,提出了各自的检测模型。第一,实现了一种基于魏格纳-威利分布的网络流量异常检测算法。通过魏格纳-威利分布分析网络流量信号在时频分布上所反映出的内在特点,根据历史流量的经验构造正常流量和异常流量两个训练样本空间,通过K最近邻分类算法将带检测流量信号的时频分布与训练样本进行比较,完成对检测样本的自动分类识别。第二,分析网络流量的异常变化在流量信号的瞬时频率变化曲线上所突显出的特征,提出了基于瞬时频率分析的网络流量异常检测算法。同时基于所应用的滑动窗口的特点,提出了一种基于滑动窗口的瞬时频率快速算法。通过对历史窗口和检测窗口内流量信号瞬时频率的方差分析,实现了对流量异常的自动检测。第三,利用广义希尔伯特变换具有抗干扰能力强,更能突出主要的异常变化的优点,本文提出将广义希尔伯特变换用于网络流量信号处理,分析了流量异常在通过广义希尔伯特变换得到瞬时流量(信号的瞬时振幅)上显现出的特征,结合滑动窗口技术,通过对历史窗口和检测窗口内瞬时流量的方差分析,实现了流量异常自动检测。