企业或者基础设施网络在数字化、信息化的同时也带来了巨大的安全隐患。如何对企业网络中影响安全的因素进行评估,并制定出有效的防御机制是一个值得研究的问题。但现有工作面临诸多挑战:首先,基于攻击图的安全评估考虑的因素复杂,难以简单、直观地描述系统中漏洞之间的关联关系,对漏洞的危害性进行准确分析。其次,需要在资源受限的情况下,研究防御机制的组合优化问题。最后也是最重要的是,选取防御机制时必须考虑到攻击者的策略性响应行为,才能更好地分析攻击者的每个攻击步骤,选取恰当的防御机制。在对已有工作进行总结的基础上,本文考虑到安全问题本质就是攻防双方不断交互,不断抗衡的过程,因此将博弈论运用到安全研究中,从考虑具体网络环境时漏洞危害性的重新评估和主动防御机制选取两个角度,分别建立合作博弈模型和攻防博弈模型,主要贡献如下:(1)本文以漏洞依赖图为基础,充分考虑漏洞所处的具体网络环境,提出一种漏洞危害评估方法。引入合作博弈的思想,定义了漏洞节点之间合作的收益,并把Shapley值作为合作博弈的解。此外,借鉴CVSS对于漏洞的评估结果,将其作为攻击成本引入Shapley值的计算中。通过与Banzhaf值和基于网络中心性评估法的对比发现,本文提出的方法具有比较好的正确性,并且可以更好地描述一次成功的攻击中漏洞对于攻击行为的贡献程度。(2)继续借助漏洞依赖图这一网络模型,提出一种主动防御机制选取策略。首先考虑到攻击者的策略行为,构建了Stackelberg攻防零和博弈模型,对于双方的策略收益给出明确定义,并且针对大规模博弈均衡难以计算的问题,提出Double Oracle算法求解博弈的混合策略纳什均衡,并对算法的计算复杂度和与最优解的近似率进行证明。实验结果表明,该算法的解效率明显优于利用数学规划求解的方式,解质量也明显优于随机策略和度优先策略等启发式方案。根据求解结果选取的防御机制,可以在策略性很好的同时仍然保持很高的收益。