近年来域名系统等互联网基础设施频繁受到恶意攻击或因故障瘫痪,给网络安全造成极大冲击。域名系统安全性之所以难以保证主要是由于互联网本质上是一个开放的复杂巨系统,其结构复杂且缺乏必要的安全防护能力,导致域名系统存在可以被渗透的脆弱性。目前域名系统安全性并未受到应有的重视,研究工作相对滞后。已有的研究主要集中在对特定攻击方法的被动防御上,未能解决脆弱性的本源问题,无法应对具有多样、随机、隐蔽和传播等特点的攻击和破坏行为。因此,如何降低整个系统体系结构设计上的脆弱性,提高系统的可用性和可控性,全面提升系统对恶意攻击和非恶意破坏行为的主动防御能力成为保障域名系统安全性的关键所在。本文针对域名系统在可用性、脆弱性、可控性和主动防御方面存在的问题进行了深入研究。协议设计脆弱性导致数据信息真实性和完整性得不到保证,配置故障普遍存在,系统冗余性大幅度降低,单点失效问题严重,而且由于系统规模不断扩大导致管理难度急剧增加。为此,本文从协议脆弱性、实现脆弱性和操作脆弱性三个方面对域名系统面临的安全威胁进行分类,综述了针对这些安全威胁的改进方案和研究成果,通过漏洞扫描和配置错误检测对权威名字服务器的安全现状进行了初步研究。随后设计了名字服务器测量工具,对权威名字服务器进行可用性测量与分析,量化评估结果显示当前域名系统的安全状况十分严峻。针对域名系统脆弱性研究相对匮乏这一情况,提出原子弱点和复合弱点的概念,并对域名系统的原子弱点和复合弱点进行了分类,从本质上描述了当前域名系统存在的脆弱性。本文基于扩展有限状态机设计了域名系统脆弱性分析模型,结合脆弱性分类给出了域名系统解析过程的形式化描述。提出了基于可靠性理论的域名系统脆弱性量化评估方法,在脆弱性分类的基础上量化了脆弱性指数并对域名系统脆弱性实施评估。域名系统业务量异常检测是增强系统可控性的必要手段。本文首先提出了基于协议特征关联分析的检测方法,既挖掘业务量属性又分析域名系统报文的载荷特征,通过查询和响应频度异常有效识别域名系统客户端和服务器的异常行为。随后基于信息熵模型,利用业务量特征分布来检测域名系统业务量异常,特别是检测没有明显流量突变的域名系统攻击和异常,通过实验对比分析验证了两种异常检测方法的有效性。域名系统安全防护技术是提升系统整体防御能力的根本保证。本文以增强域名系统的安全性为目标,提出了层次化域名系统安全性增强模型,将域名系统的脆弱性、可用性、可控性和可生存性关联起来,形成一个基于完整信息安全生命周期的动态防御技术机制,实现从预警、防护、检测、响应到恢复的纵深防御体系。并以域名系统安全性增强模型为基础,提出并设计了域名系统安全防护系统DNSSOS,实现脆弱性、可用性、可控性和可生存性的关联,将域名系统的安全防护手段有机结合起来,构建了一个全方位的动态安全防御体系。