为了应对IP地址封锁和DNS沉洞,现代僵尸网络开始使用域名生成算法(DGA)来动态生成恶意域名,作为感染主机和控制者通信的集合点。对恶意域名进行检测能及时发现感染主机,保障用户上网安全,同时也有助于僵尸网络的追踪和溯源。现有的恶意域名检测方法仍然存在两点问题,一是无法有效检测基于单词表的DGA生成的恶意域名,二是检测模型可能会被对抗样本欺骗,模型的鲁棒性有待进一步分析。针对这些问题,本文开展了以下研究工作:(1)基于n-gram和word2vec对域名进行预处理。通过比较n-gram分布分析了恶意域名和良性域名的区别,发现随着n值的增大两者的字符组合差异越来越明显,这将有助于检测模型将它们区分开,因此基于n-gram对域名进行分词。然而n值太大时不仅会增加计算量,还会导致维度灾难,为了解决这个问题,根据齐夫定律确定了n的范围。随后使用word2vec工具在分词后的域名语料库上训练跳词模型,从而将域名转化为计算机能够处理的数值向量。(2)构建了基于注意力卷积网络的恶意域名检测模型。针对卷积神经网络的滑动窗口无法捕获长距离依赖的问题,引入了注意力机制,通过构造一个上下文向量来表示当前词和序列中其他词的联系,然后将输入向量和上下文向量一起送入卷积模块。为了充分提取域名的潜在特征,设计的卷积模块包含三个具有不同核大小的并行卷积层,每个卷积层之后紧跟一个最大池化层。实验结果表明,构建的检测模型对于三种基于单词表的DGA(gozi、matsnu、suppobox)生成的恶意域名的查全率分别达到了86.03%、88.31%、91.57%,同时整体检测效果相较于其他模型也有不同程度的提高。(3)对检测模型的鲁棒性进行了分析。为了评估模型的鲁棒性,提出了一种基于生成对抗网络的对抗攻击方法。该方法首先通过生成器和鉴别器的相互博弈学习一个与样本集合独立同分布的潜在空间,然后使用换流器将原始样本映射到潜在空间并添加干扰,最后由生成器生成对抗样本,由鉴别器保证对抗样本和原始样本的相似性。实验结果表明,四种基于深度学习的恶意域名检测模型都对生成的对抗样本表现出了脆弱性,平均查全率仅有51.16%。之后使用对抗样本增广训练集,通过对抗训练来增强模型的鲁棒性,将对抗样本的查全率提高到了85%以上,同时发现基于单词表的DGA生成的恶意域名的查全率也有小幅提高。