随着互联网的高速发展,网络流量的规模和复杂度都在快速上升,网络恶意攻击的数量也伴随着网络快速发展而呈现急速上升的趋势。恶意攻击者会利用网络中存在的安全漏洞发起攻击,因此研究如何在网络流量中高效检测漏洞利用攻击行为成为了迫在眉睫的问题。此外,随着用户对于自身隐私的逐渐重视,数据传输加密技术被广泛应用于各种应用,各类漏洞利用程序也纷纷采用TLS（Transport Layer Security）等技术对其流量传输进行加密,进而逃避常规恶意攻击流量检测,这给传统流量分类技术带来了严峻挑战。因此,本研究以高效分类常规和加密网络流量中的恶意漏洞利用攻击为目标,展开了一系列研究。传统的网络流量分类方法极度依赖手工特征设计,无法适应如今复杂且庞大的网络环境。近年来深度学习以其无需手动设计特征、能够大规模处理流量数据等优点,成为了流量分类领域研究的热门方法。现有的常规分类模型未能有效利用流量数据的结构特征,忽视了流量数据特征之间的相关性,这会对模型的分类性能产生一定程度的影响。基于此,本研究通过对网络流量结构和TLS协议加密流量信息的深入分析和研究,提出了多种基于深度学习的网络流量中漏洞利用攻击分类方法。本文的主要研究内容和贡献如下:1.现有主流恶意攻击网络流量分类方法通常基于卷积神经网络（Convolutional Neural Networks,CNN）等深度学习模型,这些模型无需手动设计流量特征,但并没有充分利用网络流量的结构信息。在本文中,提出一种基于时序卷积网络（Temporal Convolutional Network,TCN）的漏洞利用攻击流量分类方法。该模型利用网络流量数据包的字节序列特性提取数据集中的关键特征,相比于传统用于建模的递归神经网络（Recursive Neural Network,RNN）,TCN在序列建模任务中表现出了更好的性能,可并行处理序列且训练速度更快。为了解决在训练过程中,Re LU（Rectified Linear Units）使部分神经元坏死导致的检测精确率不高的问题,本研究提出使用ELU（Exponential Linear Unit）激活函数解决这个问题。为了验证模型的有效性,文本使用CTU公共数据集将所提模型与先进的方法进行了比较。实验结果表明,TCN可以在较短的训练时间内获得较高的性能,具有更高的平均精确率和平均召回率。2.针对现有加密流量在未解密的情况下对恶意攻击流量分类效果较差的问题,本研究提出了基于多头自注意力机制的漏洞利用攻击加密流量分类方法。研究首先统计和分析了恶意攻击加密流量数据包中安全传输层（Transport Layer Security,TLS）协议携带的数据信息,探讨了良性与恶意加密流量在使用TLS协议加密通信数据时行为特征的区别,并将TLS协议与传统流量信息相结合进行特征提取。然后设计了恶意攻击加密流量分类模型TLS-MHSA（Transport Layer Security-Multi Headed Self Attention）,该模型利用多头自注意力机制捕捉加密流量中的关键特征并学习多个特征之间的相关性,通过学习到更关键的高阶组合特征,获得更高的精确率。最后,在公开数据集上将本文所提模型与现有模型进行对比实验,结果表明基于多头自注意力机制的恶意攻击加密流量分类模型有更高的精确率和召回率,论证了所提方法的可行性和有效性。3.设计并实现了基于深度学习的漏洞利用攻击流量分类原型系统DLEATCS（Deep Learning based Exploits Attack Traffic Classification System）。系统采用了B/S架构便于在线进行流量检测,主要包括流量数据管理、流量预处理和流量分类等模块,具有流量数据上传、流量分析、流量预处理和恶意攻击分类识别等功能。本系统具备易操作、高度自动化和易拓展等特点,经过实验证明,本研究原型系统可以对网络流量中的漏洞利用攻击准确分类。