随着互联网络的飞速发展，网络安全问题也日益严重，网络安全事件频繁发生，近年来的增长速度尤为迅猛。其中，以网络蠕虫和僵尸网络病毒为主的网络病毒由于具有传播速度快、传播形式复杂多样、破坏性大的特点，已经成为互联网络上最为严重的安全威胁之一。网络病毒不仅会造成国民经济的巨大损失，而且会带来政治和军事安全问题。因此，网络病毒的研究近年来成为许多国家在网络安全和军事安全领域重点支持的研究方向之一，也是最活跃的研究方向之一。如何有效防御网络病毒成为急需解决的问题。网络病毒在快速增长的同时呈现出两个新特征：第一，病毒之间存在着复杂的交互关系。第二，网络病毒的传播及防御与用户行为越来越密切相关。分析并充分利用网络病毒的新特性有助于提出高效的网络病毒防御措施。正是基于此，本文对网络病毒之间的交互模型和考虑用户行为及其规律特性的网络病毒防御技术进行了深入研究。具体研究内容包括：1.提出了基于博弈论的两类僵尸网络静态交互模型（一次博弈）和僵尸网络的传播动力学模型。在静态交互模型的基础上，利用复制子动态方程给出了僵尸网络的动态交互模型，并将该模型与僵尸网络的传播模型耦合起来。利用快慢系统理论得到耦合模型中快系统（动态交互模型）的稳态以及诱导僵尸网络控制者由合作变为竞争的阈值条件。将快系统的稳态代入原耦合模型，得到两个简化的僵尸网络传播及交互模型，进一步给出每个简化模型中僵尸网络不流行的阈值条件，并研究了交互参数对阈值的影响。2.提出了利它型网络蠕虫的概念，并分别建立了不考虑人类自适应行为和考虑人类自适应行为的利它型网络蠕虫与其它网络蠕虫的两（类）蠕虫传播及交互模型。对两个模型，均给出了利它型蠕虫存在和不存在两种情况下另一类蠕虫不流行的阈值条件，并研究了与人类自适应行为相关的参数对阈值的影响。3.提出了基于移动设备和网络两种途径传播的网络蠕虫传播模型，给出了模型中网络蠕虫不流行的阈值条件，研究了与移动设备相关的参数对阈值的影响。4.根据局域网内用户对网络站点访问具有聚集性的特征，提出了基于局域网的扼流法，设计了在局域网边界路由器上部署扼流系统的方案，并分析了扼流法中的阈值问题。