随着时代的进步和互联网科技的蓬勃发展,软件定义网络（SDN）的应用场景也越来越多,比如在大数据分析、云计算、物联网,以及车联网等应用领域。而软件定义网络其基本思想就是把复杂的控制逻辑从网络节点中分离出来,组成一个独立的控制中心,并通过软件编程的方式可以自由指定对网络数据包的转发规则,而不需要修改原来的网络拓扑。不过,随着网络规模与应用范围的日渐增加,随之而来的安全隐患也日渐增加,网络攻击呈现出攻击规模大,攻击类型繁多,变化快等特点。同样,在SDN网络中的设施也面临着例如DDo S攻击、网络监听、隐私等安全问题。因此,在大规模,大数据网络时代如何从大量的网络流量中辨别出含有异常行为的网络流量成为众多学者研究的热点与重点。针对SDN中存在的安全问题和网络威胁,本论文利用机器学习分类算法训练入侵检测模型的机制与SDN相结合,提出了基于机器学习的SDN攻击检测系统（ML-SDNIDS）,主要研究工作如下:1.针对SDN网络结构,本论文分别对SDN网络中的控制平面,数据平面和应用平面所存在的网络安全风险展开了深入研究和调查,总结分析了在SDN中不同平面上所存在的安全问题;详细调查和研究了基于机器学习的入侵检测系统,总结分析了目前一些相关工作的优缺点;2.对可编程数据平面技术进行了相关研究,探讨了针对数据平面编程的P4语言,以及在数据平面的入侵检测的相关机制;3.提出了一种基于机器学习的SDN攻击检测系统ML-SDNIDS,结合SDN的特性,该入侵检测系统在SDN控制平面使用自动编码器（AE）和单类支持向量机算法（OCSVM）训练入侵检测模型,利用P4语言在可编程数据平面中,结合OCSVM算法模型实现了智能且实时的入侵检测功能;4.基于Mininet网络仿真平台部署并实现了基于机器学习的SDN攻击检测系统ML-SDNIDS,在流行的入侵检测数据集CIC-IDS 2018上验证了该攻击检测系统的可靠性、可行性、和有效性;并且在CIC-DDo S 2019数据集上分别与传统SVM和OCSVM模型进行了比较,实验结果表明,本文提出的方案在检测准确率和模型执行效率上相较于其他模型都有极大的提高,可以使数据平面P4交换机的入侵检测准确率高达97%。