随着计算机通信技术的不断发展,网络规模不断增大,网络攻击技术也在不断进步,网络攻击者经常在一个网络系统中利用多个相互关联的脆弱性(Vulnerability)来逐步提高自身的权限,最终达到控制目标主机的目的。传统单一的分析技术已经无法应对层出不穷的网络攻击事件,计算机系统正面临着前所未有的网络安全挑战。为此,本文首先从网络安全分析技术入手,具体介绍了目前国内外常用的四种网络安全分析技术,指出了攻击图(Attack Graph)技术在展示网络内各个脆弱性相互关联性上的优异表现,并介绍了攻击图技术的发展历程。然后在深入研究了模型检测(Model Checking)技术的基础上,指出了一般模型检测算法所带来的状态空间爆炸问题。本文将二叉决策树(BDD)理论引入攻击图生成当中,把网络攻击事件抽象为Büchi自动机,生成攻击图并解决了状态空间爆炸问题。接着基于攻击图,提出了一种层次化网络安全分析模型,分别从基于服务和主机、基于简单网络和基于复杂网络三方面,对网络进行定量分析,尽可能全面地分析网络局部和整体状态。在对服务分析过程中考虑了其权重因素,在主机建模过程中引入了主机安全度概念,考虑了脆弱点对主机保密性、完整性和可用性的影响。对节点较少的网络引入了Markov过程,将攻击者到达安全目标的平均代价进行了量化处理,以便更直观地看出攻击者的路径选择。在对复杂网络的分析时,将状态攻击图和贝叶斯网络结合,根据节点间相互依赖的因果关系,利用贝叶斯概率推理计算,定义了网络可靠度来反映网络整体是否运行正常,并给出了使用最小路集法求网络可靠度的具体算法实现过程。最后分别设计了3个实验分别验证了基于服务和主机、简单网络和复杂网络的量化算法,证明了层次化模型的可行性。