论文部分内容阅读
随着互联网的普及与面部识别和分析系统的成熟,人们的生活变得更加智能化,但是另一方面,网络隐私安全问题也被暴露出来。用户上传至社交媒体平台的照片被诸多算法进行特征识别、表情分析和其它个人信息的提取,用户信息在不知情的状况下被泄漏,甚至被非法开采和使用。个人信息泄露事件频发,用户隐私保护需求日益迫切。为了更好地保护用户隐私,本文针对用户头像的人脸属性识别采取应对措施,提出一种基于生成式对抗网络的对抗攻击算法,并将此算法应用于人脸属性识别研究领域,包括表情识别和年龄识别,使其可以成功地欺骗神经网络模型进行错误分类,从而防止用户信息在未经允许与授权的情况下被非法收集与利用。论文的主要内容包括:首先,针对目前一些主流的对抗攻击算法中存在的需要了解目标模型网络参数与梯度信息,不适用于现实世界的问题,提出一种基于生成式对抗网络的对抗攻击算法。在生成器模型的训练过程中,定义三种损失函数分别对模型攻击、样本真实度以及对抗扰动幅度进行约束,并定义一种扰动控制策略,进一步控制生成对抗样本的扰动幅度,避免发生失真现象。在MNIST数据集上与FGSM对抗攻击算法进行实验对比,实验结果表明,本文提出的对抗攻击算法可以在不了解目标模型的网络结构及参数的情况下实现攻击,并达到99%的对抗攻击率,相比FGSM算法提升了约2%。其次,将提出的对抗攻击算法应用于人脸属性识别研究领域,与二分类人脸表情识别任务相结合,成功实现人脸表情识别模型的攻击。在Celeb A数据集上与Adv GAN攻击算法进行了实验对比,实验结果表明,本文提出的对抗攻击算法相比Adv GAN算法攻击率提升了2.47%,样本的扰动程度下降了9.56%,证明本文提出的扰动控制策略可以帮助生成质量更高的对抗样本。最后,对提出的对抗攻击算法与人脸属性识别领域的结合应用进一步扩展,应用于多分类人脸年龄识别领域,成功实现人脸年龄识别模型的有目标攻击和无目标攻击。在人脸年龄识别模型的训练过程中,增加了识别容错机制,并使用标签平滑和模型融合的优化策略以提高模型识别成功率。实验结果表明,本文提出的算法对人脸年龄识别模型成功实现攻击,使其识别准确率从79.36%下降至4.52%,证明了本文提出的对抗攻击算法在连续属性多分类任务中的有效性。本文将提出的对抗攻击算法应用于人脸属性识别领域,以一种新视角来为用户隐私保护提供方法。实验结果证明了本文算法的有效性以及在用户隐私保护领域的可行性。