互联网技术的迅速发展使现有的数据中心网络的规模和业务类型越来越复杂,软件定义网络(Software DefinedNetwork,SDN)因具有转控分离、可编程性强和全局网络视图等特点,在数据中心网络中得到了广泛的应用。数据中心网络中不同网络实体之间的频繁通信会产生大量的数据流,在复杂的网络拓扑结构中容易产生拥塞,对整个网络造成严重影响,因此对数据流进行合理的调度十分关键。本文在SDN数据中心网络架构下,对探测到的大象流和老鼠流给出不同的调度方案,旨在提升网络的链路利用率,降低数据流的传输时延。主要贡献如下:提出了 一种基于深度强化学习(Deep Reinforcement Learning,DRL)的大象流调度策略,解决了传统流量调度算法需对环境建模进行理想性假设的问题。首先,将大象流的调度问题建模为一个马尔可夫决策过程(Markov Decision Process,MDP),并将最大化整个网络中的对分带宽作为优化目标。其次,为更好地表示网络中的状态信息,采用转发节点之间多条路径的剩余带宽作为MDP的状态输入;为减少动作空间,将动作设计为从转发节点的多条可用路径中选择其中一条。最后,为解决调度中的大状态空间问题,采用了基于DRL的大象流调度算法。仿真结果表明,相比于ECMP和Hedera算法,提出的算法能够增加网络的对分带宽,从而提升网络的利用率。设计了基于改进粒子群算法的老鼠流调度策略,以降低算法的处理时延,提高收敛性。首先,将老鼠流的调度建模为一个多商品流问题,给出一种聚合机制,将聚合的老鼠流通过多路径发送。然后,使用算法复杂度较低的粒子群算法求解优化问题,以降低处理时延,满足老鼠流时延敏感的特性。最后,引入粒子搜索成功率改进了传统粒子群算法的收敛性,从而获得了更优的解,并通过该算法给出老鼠流的调度策略。仿真结果表明,给出的老鼠流调度算法能够在保证平均时延的条件下,有效地提升网络的吞吐率和链路利用率。