基于生成对抗网络的对抗样本生成算法研究

来源 :西北大学 | 被引量 : 0次 | 上传用户:lianhehe
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习模型因其较高的分类准确率,目前被广泛应用于计算机视觉领域用来处理图像分类任务,且衍生出来的人工智能安全问题也得到越来越多的关注。安全问题产生的关键主要在于模型的输入,一些具有特异性的样本数据会导致模型以较高置信度作出错误的预测结果。深度神经网络很容易被经过轻微扰动生成的对抗样本所欺骗而产生误判。研究对抗样本的生成方式,不仅有助于揭露深度学习领域的潜在危害,还可以促使深度神经网络提高其抵御潜在风险的能力。学界对于对抗样本的生成方式早有研究,但现存研究在生成对抗样本方法的问题上,大多无法兼顾攻击的准确性和生成图片的真实性,因而对于如何生成更高质量的对抗样本,仍然需要我们投入更多的研究。本文提出了一个基于生成对抗网络的对抗样本生成算法,它能够稳定高效地生成可迁移性对抗样本,可以用来进行对抗训练从而提升图像分类模型在实际应用场景下的鲁棒性。本文的主要贡献如下:(1)为了实现在扰动量一定的条件下,对原始图像样本叠加人眼不易察觉的多样化扰动以生成更高质量的对抗样本的目标,本文提出了两类扰动生成优化方法:一是基于卷积自编码和残差块的扰动优化,二是基于降噪卷积自编码器的扰动优化。并且通过串行该两种方法中可生成扰动的自编码器,得到改进的噪声融合生成器,能够为后续鉴别器的训练以及生成算法提供更为优质的初始参考样本。(2)本文提出了基于关键域探索的输入判别算法,利用浅层的卷积神经网络作为基础网络,判别输入鉴别器的真实样本和虚假样本。在样本判别的二分类问题上:将自注意力模块作为网络的一层与卷积层交替使用,精准地衡量生成样本的概率分布与原始数据集本质概率分布之间的距离;用谱范数标准化卷积层和自注意力模块特征空间的特征矩阵,将线性函数缩放大小限制为小于等于1,保证输出结果不受输入的微小变化的影响。(3)通过耦合像素扰动算法和输入判别算法,得到SAdvGAN(Serial-generated Adversarial sample based on the Generative Adversarial Network)模型。训练过程中除了需要限制对抗扰动大小和衡量预测类别远近,还改进了GAN训练过程中的损失函数,在稳定训练的基础上全局地估计输入鉴别器的数据比随机抽样的相反类型数据的平均更加真实的概率。为了验证本文所提出模型的有效性,本文在公开数据集MNIST、CIFAR10和高清数据集Adversarial Learning Development上进行大量实验,从生成对抗样本攻击准确率、对抗样本的可迁移性、对抗扰动的不可见性和训练稳定性四个方面证明本研究中相关算法的有效性。
其他文献
秦腔是中华文明历史发展的瑰宝,也是最古老的传统戏曲之一。目前秦腔表演形式受限、传播渠道单一,使得秦腔面临传承断代甚至消失的危险。随着计算机感知能力的提升和虚拟现实技术的发展,应用动作识别和增强现实等技术实现传统戏曲的交互式数字化虚拟展演成为了虚拟现实领域的研究热点。本文针对秦腔虚拟展演动作识别和三维模型注册等关键环节,提出基于骨架数据的时空图卷积网络改进模型和基于POSIT优化的位姿估计算法,解决
学位
颅面复原是根据颅骨和面部之间的关系从颅骨重建面部,以帮助识别颅骨身份。本文针对现有计算机辅助颅面复原方法缺少五官细节、复原人脸真实感效果较弱的问题,利用人工智能与图形图像学方法,将颅面复原问题转换为颅面图像翻译问题,实现对蒙古人种颅骨高真实感的面貌复原,复原结果在考古、医学、刑侦等领域拥有广泛的应用前景。本文研究工作主要包括:(1)构建二维颅面图像数据集,首先对三维颅面模型进行数据预处理,再通过正
学位
行为识别是计算机视觉领域中的一个重要研究方向,其有着很广泛的应用场景,包括行为分析、视频检索、人机互动、游戏娱乐等。现有的基于视频的行为识别模型算法还存在两个问题:1)视频是由有序的图像组成,但视频的时间维度和空间维度的重要性并不相等,如果将空间特征和时序特征以相等的比例放入到分类器中对进行分类,这就会导致时空特征不平衡的问题,从而影响分类结果;2)尽管已有很多方案对视频时序特征的提取可以达到很精
学位
基于图索引的数据关系结构是推荐系统、数据挖掘、信息检索等应用领域的基本构成组件。随着文化资源智能化的进程不断加快,文化资源数据呈现出零散、非结构等特点,导致定义并挖掘公共文化资源实体间关联关系非常困难,进而使得用户难以获得所需要的文化资源。近似最近邻搜索算法能够在候选集合中快速搜索出与查询对象相似的数据,基于图索引的近似最近邻搜索算法因其搜索速度快、搜索精度高而备受关注。但基于图索引的搜索算法在构
学位
秦腔是中华文化的瑰宝,它为探究汉文化、追寻中国古典艺术提供了宝贵线索。而如今秦腔虽然作为我国的非物质文化遗产,但其受众群体逐渐小众化、老龄化。为了改变当前现状,本文提出一种基于深度学习的人脸图像卡通化与动画生成方法,并将其应用在秦腔角色上。通过将传统秦腔文化与现代信息技术相融合,实现秦腔的文化创新,使古老秦腔艺术焕活新的生机。本文主要研究进展包括:(1)在秦腔角色的人脸图像卡通化研究中,针对原有图
学位
文物作为人类文明璀璨历史的物理存证,通过预防性保护研究,提升文物的保存质量,延长文物的生存周期是当前文物保护领域的热点问题。近年来,随着物联网和5G技术的发展,基于物联网的文物生存环境监测技术得到了广泛应用,但对文物本体状态的监测还鲜有涉及。针对馆藏青铜器本体监测效率低下和准确度不高等问题,本文对青铜器预防性保护过程中的病害检测问题展开研究,面向病害识别和病害定位两个子任务,分别提出基于深度学习的
学位
在线社交网络已然成为社会关系维系与信息传播的重要渠道和载体。影响力最大化是社交网络的研究热点之一,对信息扩散、专家发现、推荐系统等应用意义重大。对于给定的传播模型,选择具有最大影响力的用户作为种子节点,可以最优化传播的速度与广度。众所周知,用户的影响力(体现为用户的地位、阶层)评估是影响力最大化研究的核心问题,即找到在线社交网络中最具话语权的用户,如微博的“大V”用户。探究影响用户地位、阶层的因素
学位
近年来,卷积图神经网络(GCNs)及其变体因其在半监督学习任务中的卓越表现而受到了广泛关注。卷积图神经网络已经在计算机视觉、自然语言处理、社交网络以及应用化学等诸多领域产生了十分深远的影响。但目前大多数方法有两个问题:第一是算法对特征传播方向不够鲁棒,由于现有的大部分方法是基于特征值分解的,无法用于有向图;并且仅有的一小部分可用于有向图的方法,其性能比在无向图的性能差距较大;第二是大多数网络针对特
学位
子宫内膜上皮内瘤变(EIN)已经被证明是子宫内膜癌(EC)的癌前病变,精准诊断EIN对于女性生殖系统健康尤为重要。EIN也被称为非典型性增生,区别于良性典型性增生(Hw A)和正常子宫内膜(NE),但三者在子宫内膜组织形态上十分相似,临床诊断中容易发生误诊和漏诊,同时病理科医生稀缺也是当前中国病理学界的一大现状。计算机辅助诊断在很大程度上缓解了医生的阅片压力,特别是基于深度学习的病理组织图像分析,
学位
由于工作压力大、生活不规律等多种因素,导致睡眠障碍发病率逐年递增。睡眠分期在临床上作为评判睡眠障碍的主要指标,一直是专家学者的研究热点。近几年,自动睡眠分期算法研究层出不穷并取得了一定的成果。但睡眠数据集类别不均衡问题使得现有睡眠分期模型对少数类样本分类准确率低。此外,现有模型对时间序列信息的学习能力较弱,难以有效表达相邻样本之间的关联性。为此,本文工作如下:(1)针对睡眠数据集中存在的类别不均衡
学位