随着网络攻击手段的日益增多,传统入侵检测方法逐渐显露弊端,深度学习模型由于其优秀的特征提取能力和分类能力被逐渐应用于入侵检测领域。SDN（Software Defined Network）网络通过其转发控制分离和可编程管理的特点解决了传统网络缺乏灵活性,部署困难等诸多痛点,同时也带来了新的安全挑战。第一,SDN的网络结构和网络协议与传统网络差异巨大,传统网络下基于深度学习的入侵检测算法在SDN环境下存在兼容性问题。第二,一些基于深度学习的检测算法收敛慢,检测率不高。第三,在训练样本不平衡的情况下,许多模型无法保证对不平衡数据的检测精度。本文通过使用SDN环境数据集解决兼容性问题。针对另外两个问题,本文的主要工作如下:（1）针对检测算法收敛速度慢,准确率不高问题,本文第三章提出一种面向SDN环境的基于注意机制优化卷积神经网络的入侵检测模型。该模型首先利用深度自动编码器对输入数据进行降维处理,减小特征冗余与噪声。而后通过卷积神经网络与注意机制多层次提取输入流量的重点特征,减除弱特征对模型分类的影响,提高入侵检测模型的收敛速度和准确度。在In SDN数据集上的实验结果表明该模型比卷积神经网络模型,长短期记忆神经网络模型和二者的混合模型在准确率和收敛速度方面有明显的提升。（2）为了提高模型对不平衡数据集的检测能力,本文第四章提出了一种基于数据增强的GAN（Generative Adversarial Network）网络入侵检测模型。在前期训练部分,样本要进行归一化和正则化处理。然后使用深度自动编码器降低数据集维度以减小后期模型训练压力。利用带梯度惩罚的Wasserstein距离交替训练GAN网络生成器与判别器,使之达到纳什均衡。随后利用生成器混入高斯噪声并生成与原始数据分布接近的新数据。将生成数据混入原始数据中,通过训练随机森林算法对多种流量进行分类处理。在In SDN数据集上的实验结果表明该方法在不平衡数据上检测率提升明显。在准确率,召回率和F1分数等指标上均表现良好,优于卷积神经网络,长短期记忆网络和二者混合模型。