论文部分内容阅读
机器学习和模式识别的适应性和智能能力使其成为现代应用中无处不在的工具,并已广泛应用于安全领域,如入侵检测,病毒检测,生物身份识别和垃圾邮件过滤。然而,当学习和预测过程中存在对抗操作时,智能系统的优势也可能成为它们的弱点,因此,对抗性学习对传统机器学习的安全性提出质疑。逃避攻击是对抗性学习中常见的攻击之一,攻击者通过修改测试集中恶意样本的特征值以逃避学习系统的检测。因此,如何探索学习系统的漏洞以及提出安全性更高的分类系统已成为研究热点。为了有效解决机器学习中隐含的安全问题,相关文献已提出很多对抗逃避攻击的策略。然而,这些策略在性能方面仍有很大的提升空间,其根本原因在于对抗性学习存在广阔的研究空间。本文从攻击策略和防守策略两个角度讨论了对抗性学习的研究进展,针对对抗逃避攻击的防守策略进行了深入细致的研究和探讨,取得的成果如下:(1)深入探索多分类器在对抗逃避攻击中的应用,讨论了对抗逃避攻击的两种思路,引出新的防守策略的研究方向。现已有文献多侧重于讨论传统机器学习方法是否适用于对抗性环境,并验证了在对抗逃避攻击中多分类器比单分类器更鲁棒。然而,在对抗逃避攻击中,攻击者的先验信息对分类器的鲁棒性有较大的影响。为此,本文从如何保持多分类器准确性的同时提高鲁棒性,在学习过程中模拟不同强度的攻击,并增大错分样本的权重。通过在UCI数据集上实验分析,验证了在学习过程中融合攻击信息的多分类器具有更强的鲁棒性,最后分析了算法的收敛性以及参数对算法的影响。(2)在考虑攻击者先验信息的基础上,进一步研究随机性在对抗逃避攻击防守策略的影响。本文按一定比例随机攻击训练数据集中的恶意样本以增加基分类器的差异性,利用平衡因子对基分类器在有攻击和无攻击情况下的误差进行最小化。本文提出的方法不仅考虑了分类器在有攻击时的分类性能,同时保证了分类器的泛化能力。与现有的三种方法在UCI数据集上实验对比,结果证明了本文方法的可行性和高效性。总之,本文针对对抗逃避攻击如何设计更鲁棒的分类器进行了研究,提出了新的防守策略,并在UCI数据上对新方法的有效性和可行性进行验证。本文的研究为对抗逃避攻击防守策略提供了新思路与新方法,在机器学习和对抗性学习等领域有一定的理论和应用价值。