随着通信与网络技术的飞速发展,网络流量呈现了爆发式的增长,而在这些网络流量中往往混杂了威胁着网络安全的恶意流量,如何及时检测和处理潜在的恶意流量,已经成为互联网时代下实现网络安全的重要目标。近年来,机器学习应用于恶意流量识别逐渐成为研究热点,但是现有的基于机器学习的恶意流量检测方法大多是利用大量已标记的数据进行模型训练,即采用有监督的机器学习方法来实现对恶意流量的检测与识别。然而,对流量数据进行逐条标注需要耗费大量的人力物力,成本极高,且大多有标记的公开数据集规模十分有限,训练出来的模型容易过拟合,应用于实际网络场景中往往性能不佳。与此同时,随着越来越多未知攻击的出现,原有模型需要频繁更新以适应未知攻击的检测。而如果采用无监督学习的识别方法,则会因为缺乏标签数据导致模型无法识别具体的攻击应用类型。基于上述描述,本文提出了基于半监督的深度学习方法来检测和识别恶意流量。首先设计了基于半监督的CNN与SAE模型,通过预训练和再训练组合的方式,先通过大量无标记数据集进行预训练,再利用少量有标记数据集进行再训练,从而得到基于半监督深度学习的恶意流量识别模型。与传统的AE模型相比,半监督SAE模型在全连接层中使用了随机失活技术,避免了过拟合现象的产生。然后分别对数据集IMTH2019和CIC-IDS2017进行预处理,获取符合本文实验要求的训练数据集和测试数据集,并将预处理后的数据集输入到半监督模型SAE中进行分类识别实验,并与半监督模型CNN进行对比实验,最终发现半监督SAE模型在流量识别尤其是恶意流量识别领域中相比于其他半监督学习模型有着更加优异的性能表现。最后,在算法和模型的优化基础上,本文设计了一套恶意流量监控系统,以实现对网络流量中随时可能出现的恶意流量的检测与告警。系统具备了数据采集、数据分析、流量识别和数据处理的主要功能,并开发了可视化的数据展示和告警页面。通过对系统进行性能测试,验证了系统满足设计需求,也进一步验证了本文提出的算法和模型具有较强的实用性价值。