在过去的40年,计算机网络尤其是Internet已经从一种研究兴趣的产物转变为一种社会的基础设施。Internet已然是推动科学技术革新和社会进步的强大引擎。但同时,社会对互联网的依赖与互联网本身的可靠需求越来越不相称。网络脆弱性的存在阻碍了互联网成为一个真正可信赖的、可靠和可预期的关键基础设施。本文的工作以复杂网络相关理论和方法为指导。复杂网络研究应用广泛,在社会、政治、经济等诸多领域具有理论意义,尤其在计算机网络领域取得了很大的成就,以此为基础形成的网络科学(Network Science)在网络计算理论、人类主题实验中的行为分析、网络科学与网络设计、网络设计与网络工程、网络设计与社会价值等研究方面具有先进性。网络脆弱性也是其中的研究热点之一。本文的工作主要围绕以网络传播动力学特征分析为主要方法的网络结构脆弱性研究展开。主要包括：(1)传统复杂网络研究偏重于对网络结构进行静态分析,确定网络的脆弱组件(结点或边)。比如很多经典研究认为网络中度或介数(Betweenness Centrality)高的结点最应该被保护和控制。那么,这些静态指标是否真的能够准确反映结点的重要性或脆弱性呢?事实上,事物的发展是普遍联系和相互转化的。网络结点的脆弱性并不一定静态而孤立地存在,其一部分由自身的静态拓扑属性所决定,而另一部分则可能隐含于其他的结点之内。为此,我们提出了一种网络结构中的脆弱性社团发现方法,同时提出了一种更准确评估网络结点在危害传播作用上的脆弱性新指标——超介数,以更为准确揭示网络结点在危害传播中的作用和地位,更准确评估网络结点的关键性和脆弱性。(2)网络脆弱性挖掘的目的是研究网络免疫策略。网络免疫策略的成效依赖于网络脆弱性挖掘的结果。由于网络危害爆发在时间和空间上具有不确定性,不存在免疫效用对所有情况都最优的免疫纯策略。找出网络的最脆弱结点加以免疫,是在资源受限条件下尽力阻碍网络危害爆发的有效途径。同时,对于危害在网络中传播而言,“推动传播”和“阻碍传播”的因素往往是同时存在和相互伴生的。因此,一个均衡的网络免疫策略不能单纯依靠静态的、单方面的网络结构分析而获得,而应该考虑网络中“推动传播(攻击)”和“阻碍传播(免疫)”二者对抗博弈。本文提出了一种二人常和非合作的网络均衡免疫对策模型。(3)一个完整的免疫资源部署流程可以分为信息收集、扫描探测、漏洞修复和自我推进四个阶段,其中搜索探测脆弱主机是免疫推进的关键环节。本文提出了一种基于扫描方式的网络免疫推进技术,能够在不知道网络结构的条件下,根据网络脆弱性分布具有自组织临界性的特点,动态调整扫描偏好,高效命中脆弱主机实施免疫修复。经过模型推导及仿真分析,该方法能够很好地抑制危害传播,提高网络的安全性。(4)网络的相继故障(Cascading failures)是指网络在遭受攻击或出现内部故障时,由于其内部结构和动力学的关联性而导致其他网络结点相继出现服务失效或故障的现象。相继故障是网络脆弱性的一个重要表现。在这一领域中,人们通常采用“负荷-容量”模型(Load-Capacity model)对网络相继故障建模。本文主要探讨了以下几个问题：①网络结点的容量-负荷关系在经济、技术条件下存在着怎样的制约关系,如何对其建模；②在有限资源条件下,如何实施网络容量分配,以最为有效地防范相继故障,使网络具有较高的鲁棒性。本文的研究结果有助于有限资源下的网络结构优化部署,抑制网络拥塞,避免网络相继故障。(5)通过对大样本数据的实证研究发现,网络行为活跃性存在着幂律涌现和社团效应,具有自组织临界特点；针对这种活跃性,本文研究了不同流量负荷对网络相继故障的影响。在网络安全的应急响应时,应该更关注那些原本不活跃的结点间流量的变化。同时,我们设计了一种具有流量自组织临界特点的低速率分布式DoS攻击的可能性,说明网络流量行为的活跃性存在能够为网络攻击所利用,也是网络脆弱性研究需要关注的。(6)网络仿真是基于复杂网络理论的Internet脆弱性主要研究手段之一。经典的网络仿真工具在网络结构分析、复杂网络动力学方面不太关注；而在传统复杂网络研究中,人们通常使用的数学、图形工具又缺乏对互联网行为的有效支持。本文工作将二者结合,实现了一个用于复杂网络脆弱性研究的大型网络软件仿真平台。如何支持用户定制的算法模型也是我们工作的出发点之一。本文实现了面向复杂的网络脆弱性分析所需要的分布并行仿真技术,给出了相关设计方法。本论文整体上采用了理论与实践相结合的研究方法。主要解决了网络脆弱性研究中的一些基础理论问题。研究成果可为我国信息安全建设做出贡献。