协同防御是目前比较流行的抵御分布式拒绝服务攻击（Distributed Denial of Service，DDoS）的方法。协同防御是否有效，能否涌现出人们期望的整体防御效果，还需进一步验证。由于理论研究与现场测试方法的局限性，人们越来越多地采用仿真手段研究网络安全问题。目前对于DDoS协同防御仿真，有一定的研究基础，但是缺乏系统性的研究框架，且在模型开发、效能分析等方面存在不足。DDoS协同防御是一个存在着防御设备间交互协作的复杂过程，为此，本文采用基于Agent建模与仿真方法研究DDoS协同防御问题。首先，在分析基于Agent的DDoS协同防御仿真内涵以及三类典型建模仿真框架的基础上，指明建立DDoS协同防御仿真框架需要注意的问题，建立了基于Agent的DDoS协同防御仿真框架。其次，以DDoS协同防御涌现行为建模为目标，采用基于Agent的方法建立DDoS协同防御体系模型。根据防御Agent的行为特点，采用Agent的一般结构建立了入侵检测、防火墙和入侵追踪三个防御Agent结构模型；针对以往行为建模方法建模逼真度低和形式化描述不规范的问题，建立了一种以行为约束为核心，包含自主行为和交互行为的防御Agent行为理论模型，提出了一种五元组Agent行为形式化描述方法，分别对三类防御Agent进行了行为分解、行为形式化建模，并建立其行为流程，设计其行为算法。从抽象和具体两个角度描述了防御Agent之间的协作关系，并对其动态演化特征进行了讨论。建立了防御Agent交互模型，重点对防御Agent交互对象选择和协同防御流程进行了描述，并基于社会网络思想，提出了一种DDoS协同防御交互关系优化算法。同时，讨论了防御Agent通信模型。再次，针对系统模型向仿真模型的转换问题，设计了基于OMNeT++的DDoS协同防御仿真建模思路，然后建立了入侵检测Agent仿真模型detector、防火墙Agent仿真模型filter和入侵追踪Agent仿真模型investigator。最后，以协同防御涌现性分析为目标，阐述了基于自组织临界判断和基于涌现绩效判断的系统涌现判别方法，提出了一种多角度DDoS协同防御效能分析模型；并通过DDoS协同防御机制有效性验证及效能评估、DDoS协同防御交互关系优化算法有效性验证仿真实验，验证了本文采用的协同防御涌现行为建模思路及所建模型的正确性和有效性，同时，验证了DDoS协同防御机制的有效性，并反映和揭示出协同防御的一些规律。