随着人工智能在图像和自然语言处理领域的成功,研究人员逐步将机器学习技术应用于恶意代码检测领域,并取得了较好的成果。然而从2006年开始针对机器学习模型测试数据的“投毒”到2014年对抗样本的提出,越来越多的研究人员对机器学习模型的安全性产生了担忧。目前防御对抗样本较为有效的方式是通过多种对抗样本与原始样本组合对模型进行训练,这种防御方式被称为对抗训练,可以发现对抗样本不但可以作为攻击模型的一种手段,同时也能够成为提高模型鲁棒性的一种渠道。在利用深度学习技术检测恶意代码中,研究者们利用恶意代码尾部的空隙并结合损失最大化对原始样本进行扰动生成对抗样本,但是这种方法受到样本大小的限制,并且生成对抗样本所耗费的时间较长。如何减少恶意代码检测领域的对抗样本生成成本,以及如何选取合适的对抗样本,这对于模型防御攻击以及提高鲁棒性有着重要的意义。本文针对可执行文件特点,模型的可解释性以及现存的对抗样本生成算法的缺陷,提出了针对黑盒场景和白盒场景下的对抗样本生成算法。本文首先通过找到可执行文件的冗余空间,定位了新的干扰值添加位置,并通过对快速梯度符号方法中加入了一阶矩估计和二阶矩估计来解决单步攻击和迭代攻击存在的耦合问题。在白盒场景下本文通过计算模型对良性样本的判别特征作为扰动值,并对可执行文件添加新的区块作为扰动值添加的位置。本文还分析了加壳样本对模型的影响,使用压缩和加密两种不同的方法对样本进行加壳,发现两种加壳样本均在不同程度下降低了模型的精度。本文最后从L2范数和判别特征两个方面选了择合适的对抗样本,并结合加壳样本和鲁棒性特征样本,来提升模型的鲁棒性。本文在未加壳数据集上,对所提出的两种场景下的对抗样本生成算法进行了验证,主要从对抗样本生成的成功率、时间以及与对抗样本扰动值的L2范数展开,上述两种算法均不再受到样本大小的限制,并且在黑盒和白盒场景下的对抗样本生成算法都能够有效提高对抗样本攻击成功率。本文还在加壳数据集上,验证了模型的精度。最后对比了多种不同的对抗样本和加壳样本对目标模型对抗训练后,并实验观察目标模型精度和鲁棒性的变化,证明了本文针对目标模型的防御方法对提升目标模型鲁棒性的有效性。