随着IP技术的飞速发展和信息化进程的不断加快,基于网络的应用服务变得越来越广泛,从传统的www服务到最新的实时多媒体服务等等,网络服务和应用对网络的可靠性和安全性提出了更高的要求。与此同时,Internet以及网络技术的发展也使得网络入侵攻击变得更为普遍,数量和破坏程度也随之增加。特别是以DDoS攻击和Worm为代表的大规模网络恶意数据流对Internet的健壮性和可靠性造成了前所未有的冲击。这些高带宽恶意数据流在互联网上泛滥,使得网络正常服务质量(QoS)不能保证,网络资源被恶意数据流肆意占用,骨干网络的关键设备性能急剧下降,网络资源的可用性遭到极大破坏。本文以实现对恶意数据流的有效防御控制为目标,着重对网络恶意数据流的检测与控制等关键技术进行深入的研究,主要包括以下四个方面:对网络恶意数据流进行准确的检测发现是恶意数据流防御的必要手段。论文首先提出了一种基于矢量量化的网络异常检测方法用于恶意数据流的检测。异常检测的难点在于怎样准确的描述用户行为模式轮廓(Profile)。本章提出了将数据压缩和矢量量化的思想用于网络业务量用户行为模式分析。通过相似性划分用户行为空间,矢量量化的码书(Codebook)能够精确的描述用户行为模式轮廓,实现了面向异常度量的网络业务量用户行为空间索引。因为实际环境中网络数据量较大特点,要求异常检测系统有高效的分析和检测算法。网络异常检测的可用性最为重要,为了提高算法分析的效率和系统的实用性,针对码书的结构,设计实现了一种基于向量约减的快速最近邻搜索算法来实现高效的网络异常检测。同时对上述方法行了综合的性能评价和比较分析,验证了方法的有效性。已有安全事件证明,高带宽网络恶意数据流通过资源滥用对大规模网络的健壮性和服务质量(QoS)造成了巨大的冲击破坏。本文首次从Internet网络资源控制和分配竞争的角度出发对恶意数据流的网络行为进行了理论分析,建立了网络资源控制模型,并在此模型下分析了网络恶意数据流对Internet资源分配公平性、网络健壮性和网络控制的影响与关系。进而本文对网络恶意数据流的拥塞控制的无反应性以及高带宽性等特点进行了深入研究。通过实验分析阐述了高带宽恶意数据流导致的网络拥塞崩溃,以及高带宽恶意数据流对网络带宽资源分配的影响。