代码混淆技术是一种对计算机程序代码进行功能上等价转换,但是使代码变得难以阅读和理解的技术。由于软件逆向工程的发展,人们可以对已有的程序软件进行逆向分析,通过反汇编、反编译和动态跟踪等方法分析出程序实现的原理。如果黑客通过软件逆向分析出程序的关键代码,可能会针对代码存在的漏洞进行攻击。因此,为保证代码安全以及防止代码盗用,就需要对代码进行混淆。然而,传统的代码混淆技术或者是将代码中的元素进行替换,如将函数名、变量名等替换为无意义的名字;或者是在代码中插入一些不影响程序执行的无关代码;或者是将代码中的逻辑替换为功能上等价但更难理解的形式。逆向分析者可以通过具体混淆规则分析出代码的含义,从而实施攻击。本文通过对代码混淆原理的分析及深度学习模型与算法的研究,提出了基于生成式对抗网络的代码混淆模型COMBGAN。首先,设计了能够学习代码逻辑结构的Encoder-Decoder模型,整合为COMBGAN模型的生成模型。然后,由于常规的Encoder-Decoder模型只能学习序列的上下文语意,对于代码的控制流信息是无法学习到的,因此将代码处理为抽象语法树路径集合的形式,由抽象语法树的所有路径集合表示代码段。Encoder将代码段的所有抽象语法树路径编码为中间向量表示,再由Decoder解码为目标代码。最后,构造判别模型以判别生成的目标混淆代码是来自生成模型还是传统混淆器,并对代码进行混淆检查。同时,判别模型与生成模型进行对抗训练,以提高生成模型生成混淆代码的准确率。实验使用了发表于ICLR2019会议上的论文code2seq中的Java-small数据集,并加入混淆代码整合为Java-obscure数据集。在Java-obscure数据集上,COMBGAN模型与现有深度学习模型和代码混淆工具的对比实验显示COMBGAN模型的各项指标均优于其他模型。同时,COMBGAN模型与code2seq模型在Java-small数据集上的实验表明,COMBGAN模型在精确率、召回率及F1值等性能指标上的结果比code2seq分别提升了2.71%,0.14%,1.11%。