随着互联网的迅速发展,网络流量呈现爆炸式增长,因此如何对不同类型的网络流量进行分类和识别,以确保网络空间的安全一直是网络安全领域的研究热点。作为保证网络空间安全的第一步,网络流量识别技术的研究对优化网络体系结构、维护网络空间安全以及提高用户服务质量具有重要意义。在这个领域,利用深度学习中先进的分类网络作为辅助,可以大大提高网络安全检测的效率和可靠性。因此,设计高效的深度学习算法进行网络流量识别工作成为当前研究的主要内容。本文重点关注以下几个方面:移动终端设备在识别和分类加密流量和恶意流量方面的效率较低,因此高效准确地识别网络流量仍然是一个具有挑战性的问题。为此,本文提出了一种基于十六进制有效荷载的一维卷积神经网络（Convolutional Neural Networks for Hexadecimal Payloads,Hex CNN-1D）模型,它使用了规范化处理和注意力机制,同时添加了注意力机制模块GAB（全局注意力块）和CAB（类别注意力块）,用于对网络流量进行分类和识别。本文的模型可以从十六进制网络流量中提取有效的负载信息,以识别包括加密流量和恶意流量数据在内的大多数网络流量类别。实验结果表明,在四种不同的实验环境下,该方法的平均准确率为98.8%。本文的模型可以显著提高网络流量数据的识别准确性。本文将网络流量数据包中的关键特征转化为灰度图格式。通过研究发现原始网络流量数据帧和灰度图的组成结构非常相似。基于此,本文结合了深度学习在图像处理方面的最新研究,提出了一种基于灰度图识别的二维卷积神经网络（Convolutional Neural Networks for Grayscale,GCNN-2D）模型的网络流量识别算法。为了验证本文提出的模型的有效性,本文使用了公共网络数据集ISCX-VPN-Non VPN-2016和USTC-TF2016进行实验。实验结果表明,常规加密流量识别的平均准确率为98.7%,恶意流量识别的平均准确率为97.6%。提出了一种基于QoS和QoE的网络流量资源调度方法。该方法利用预设路由算法获取多条网络路径的QoS参数值,通过训练后的预设映射关系模型获得每一条网络路径的QoE指标值,选出目标QoE指标值,并通过该目标值对应的一条网络路径进行信息传输,实现全局QoS和QoE的控制优化。此方法可以提升网络资源利用效率,节约数据中心内部的流量带宽成本,并为相关数据中心及服务节约成本。考虑到各云边数据中心不同的计算和存储的能力指标,通过深度学习等人工智能手段研究并预测突发场景下相应的全局QoE优化策略,并通过调整路由和业务路径编排,实现全局软件定义网络资源快速动态调整和优化算法。