随着“互联网+”时代的到来,网络与我们生活的方方面面联系越来越密切,科技的进步与发展在为我们带来便捷的同时,也为我们的信息安全带来了更多的隐患。频发的网络攻击,如DDoS (分布式拒绝服务)攻击,影响了合法用户的正常网络使用,更可怕的是带来巨大的经济财产损失。在应对网络入侵时,检测和及时追踪是两个主要环节。然而现在的检测技术存在检测率和误判率难以平衡的问题,追踪技术存在资源耗费及鲁棒性差的问题。针对这些问题,本文提出了以下方案:1)在原有单变量自相似流量模型的基础上,提出了二元自相似流量模型。基于数据包和字节的时间序列统计,使用分枝定界过程,对模型参数进行优化,通过一系列对比实验,可验证该模型的异常检测能力优于单变量自相似流量模型。2)将前面提出的二元自相似流量模型与深度学习相结合,提出了一种混合入侵检测模型,即检测分为流量异常判定和异常流量分类两个步骤。由于深度学习具有强大的特征学习能力,所以经实验验证,该模型具有较高的识别精度和检测速度,检测正确率达93%。3)为在检测出入侵后能够及时做出有效回应,针对DDoS攻击,对基于蚁群算法的IP回溯方案进行了改进。提出的新方案无需网络服务提供商配合和过多资源消耗,能在有限的数据包量和有限时间内达到较好的回溯效果,例如当网络拓扑大小为800个节点时,该方案的性能表现高于ACS-IPTBK回溯方案37.5%左右。且能够应对IP伪造的情况。