随着网络应用的不断发展,传统的网络架构已无法承载爆炸性增长的网络流量。为了解决该问题,一种新型的网络架构——软件定义网络（Software Defined Network,SDN）随之而出。相比于传统的网络,SDN具有控制与转发相分离,逻辑上的集中控制以及可编程的特性,可有效提高网络的管控能力,实现网络流量的灵活控制。SDN带来许多优势的同时也带来了许多挑战,其中,如何通过优化SDN网络改善服务质量成为目前的研究热点。本文以时序为轴,在控制器部署阶段,通过量化节点间的亲密度,改进了谱聚算法中相似度矩阵的构建,提出了基于节点亲密度的控制器部署算法,从而实现SDN中控制器与交换机之间的时延优化。另外,考虑单目标的优化无法解决子域间负载均衡的问题,通过增加负载均衡约束因子,改进社区发现中的Infomap算法,提出了以时延和负载为优化目标的部署方案,实现SDN中时延的优化和子域间负载的均衡。在控制器部署后,采用深度强化学习（Deep Reinforcement Learning,DRL）的方法,提出基于DRL的路由优化算法,通过感知底层网络状态并进行自学习来实现SDN路由优化,从而解决了静态控制器部署难以适应动态流变化的问题。论文的贡献主要概括为以下三个方面:（1）基于节点亲密度的多控制器部署算法在多控制器部署阶段,控制器的部署位置将直接影响SDN的服务质量。本方案以最小化传播时延为优化目标,采用机器学习的方法,通过量化网络拓扑节点间的亲密度关系,改进传统谱聚类算法中的相似度矩阵,对软件定义广域网（Software Defined networking in a Wide Area Network,SD-WAN）进行子域划分及每个子域内控制器位置的确定。实现了SDN-WAN中控制器与交换机间时延的优化。基于真实网络拓扑Internet2 OS3E和China Net的实验结果表明该算法计算得出的分区结果对SD-WAN的传播时延有明显的影响,与现有的基于k-means的控制器部署算法和基于谱聚类的控制器部署算法相比,提出的方案能够获得较低的平均时延。（2）基于社区发现的多控制器部署算法在控制器部署阶段,基于节点亲密度的多控制器部署算法仅从单目标优化出发进行多控制器部署算法设计,极易出现子域间负载不均的问题。现有的多目标优化的控制器部署方案并未考虑到控制器与控制器间的时延,且子域数量需要人为确定。针对上述不足,本方案提出基于社区发现的多控制器部署算法。该算法以时延和负载均衡为优化目标,采用社区发现中的方法,通过改进社区发现中的Infomap算法,发掘SD-WAN中拓扑潜在的社区结构,实现SD-WAN子域划分及控制器部署位置的确定。实验结果表明,相比基于k-means和谱聚类算法的多控制器部署算法,所提出的方案能够根据拓扑结构自动确定分区数量,除此之外,本方案能够获得较低的时延和较好的均衡负载的效果。（3）基于深度强化学习的路由优化算法在控制器部署后,由于（1）（2）所提出的静态环境下控制器部署难以适应动态流的变化,仅凭控制器部署难以保证时延、包转发率等性能。考虑到SDN控制器中传统路由协议只考虑最短路由路径优先,而忽略对底层网络情况感知的问题,本方案从SDN路由协议设计入手,结合深度强化学习（Deep Reinforcement Learning,DRL）技术,提出一种基于DRL的路由优化算法（DQSP）,该方法能够快速感知底层网络状态（包括在攻击情况下的网络状态）,通过与环境的交互智能地优化路由路径,改善了正常网络环境和特定攻击环境下SDN中的Qo S,从而优化整体网络性能。通过大量的仿真实验证明了DQSP具有良好的收敛性和高性能。在部分情况下,DQSP相比于传统的OSPF路由协议相对性能提升至少10%。