随着网络规模的不断扩张和应用服务数量的迅猛增长,网络的运维和管理越来越困难。传统的设备厂商固守技术,使得网络设备配置复杂,网络升级和新业务部署困难,难以适应未来网络的发展趋势。软件定义网络（Software Defined Networking,SDN）的出现打破了这一僵局,SDN将控制和转发功能分离,实现了网络的可编程性和集中化的运维、管理。然而,SDN的结构和可编程性也带来了很多安全问题,控制层中实现集中化管控的控制器更是攻击者的首选目标,其内在的安全漏洞、后门等缺陷容易被攻击者利用,造成控制器单点故障、控制器劫持、流规则篡改等安全问题。拟态防御技术作为一种新型的融合式防御技术,其以动态异构冗余（Dynamic Heterogeneous Redundancy,DHR）架构为基础,在抵御已知或未知漏洞、后门等安全威胁上卓有成效。本文在SDN控制层中引入拟态防御技术,以提高SDN控制层的安全性和鲁棒性,并研究引入过程中需要解决的一些问题。本文依托国家自然科学基金创新群体项目——“网络空间拟态防御基础理论研究”。本文针对SDN控制层的安全性问题,首先将拟态防御技术引入SDN控制层,增强控制层的抗攻击能力;其次针对拟态防御技术引入过程中存在的一致性裁决问题和动态调度问题展开研究;最后对拟态化SDN控制层的安全性进行分析。本文的主要工作和研究成果如下:1.针对传统SDN架构下,控制器存在的单点故障、控制器劫持、静态配置等安全威胁,本文将动态异构冗余架构引入到SDN控制层,构建了拟态化SDN控制层（Mimic SDN Control Layer,MCL）。MCL通过多个异构控制器同时管理网络,打破了传统单控制器控制的局面。结合动态调度策略,MCL能够有效防御针对控制器漏洞后门的攻击。然而,由于多个异构控制器生成的流规则在数量、内容等方面不尽相同,导致拟态裁决过程中流规则的一致性判别比较困难。针对此问题,提出了一种基于网络管道图的拟态裁决方法。该方法基于网络中任意数据流最终的转发端口确定的事实,通过网络边缘端口的流量视图来判别规则的一致性。实验结果表明,所提的拟态裁决方法能够准确判别流规则的一致性,在性能方面满足一般网络的实时性要求。2.针对MCL中控制器的动态调度问题,首次提出了一种基于执行体集异构度的动态调度策略。首先,介绍了拟态防御技术下动态调度问题以及异构性对安全性的影响;其次,基于控制器的多属性特征,以较为细粒度的方式建立了控制层模型,并基于加权汉明距离定义了执行体集的异构度;进一步地将控制器调度问题建模为以执行体集的异构度最大化为目标的最优化问题;最后,将问题分解为两部分并提出了相应求解算法。实验结果表明,所提动态调度策略能够在合理的开销范围内有效提高网络系统的稳定性,对网络性能的影响较小。3.针对MCL的安全性评估问题,提出了一种基于博弈论的量化评估方法。首先,将MCL的安全性评估问题建模为攻防双方竞争控制器控制权的博弈问题;其次,鉴于拟态防御下攻击者探测的信息的时效性和试探攻击次数的有限性,从行动时间的角度提出了博弈者的行动策略;进一步地用博弈者掌握系统控制权的时间与行动代价的差值来量化博弈收益;最后,通过控制层的失效概率和防御者的收益来评估MCL的安全性。仿真结果表明,MCL的失效概率很低,安全性较好,通过选择合适的调度时机能够有效保证MCL的安全收益。