基于神经网络的图像对抗防御方法研究

来源 :云南大学 | 被引量 : 0次 | 上传用户:siman2008
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,神经网络展现了强大的性能,被广泛应用到了图像识别、自然语言处理、自动驾驶等领域。然而,最近的研究表明:神经网络在面对对抗样本的表现却不尽如人意。人们提出了不同方法来减轻对抗样本带来的危害,这些方法大致可以分为三类:第一类是增强模型自身的鲁棒性,对抗训练便是其中常用的方法,此类方法需要对原有模型进行重新训练或微调,防御成本较大;第二类是在原有模型之前增加附加模块,以此去除或破坏精心设计的扰动,此类方法大多在防御对抗样本的同时会降低正常样本的识别率,对样本的破坏程度较高;第三类是对抗样本检测技术,此类方法在攻击者知道检测器存在时可以设计欺骗检测器的对抗样本,且现有方法存在较高的假阳性率,也存在一定的局限性。针对上述问题,本文结合张量分解技术开展研究,主要工作概括如下:(1)提出基于张量分解的对抗防御方法TDDM。该方法先将原始张量划分成若干张量块,再将每个张量块进行张量分解得到每个张量块对应的因子矩阵,因子矩阵中前10%的因子权重之和就占据了全部权重之和99%以上的比例,因此本文在每个因子矩阵中选择排序靠前的因子进行重构每个张量块,丢弃掉排序靠后的矩阵因子,最后将重构的张量块组合成重构张量。TDDM能最大程度还原正常样本的数据分布,对样本的破坏性较低,且神经网络对随机噪声具有较强的鲁棒性,实验表明TDDM能将对抗扰动转化为普通的随机噪声,以此抵御对抗样本带来的危害。(2)提出基于神经网络的张量分解对抗防御方法NTDDM。TDDM在防御对抗样本上效果显著,但当面对大量样本时运行效率有待提升,针对该问题进一步提出NTDDM,该方法使用神经网络技术实现,在进行分解的时候能够充分利用现有的GPU资源,面对大量样本时能大幅提升算法运行效率,本文给出了NTDDM的损失函数并推导了因子矩阵的更新方式,模型训练过程中在因子矩阵中加入了细微的高斯噪声以提高模型分解的效果,实验表明该方法与TDDM相比在面对大量样本时具有更好的防御效果和更短的运行时间。(3)提出基于鲁棒得分的对抗检测方法RSDM。针对现有检测方法假阳性率较高和NTDDM等基于增加附加模块的防御方式在提升对抗样本识别率的同时会略微降低正常样本识别率的问题,根据细微噪声干扰下模型对正常样本和对抗样本不同的反馈输出,设计鲁棒得分用于衡量未知样本接近对抗样本程度的指标,提出基于鲁棒得分的对抗检测方法RSDM,该方法具有较低的假阳性率。RSDM可以和NTDDM方法结合,通过检测方法从未知样本中分离出正常样本和对抗样本,正常样本直接输入模型预测,对抗样本经过NTDDM再输入模型预测,进一步提升模型的鲁棒性,形成完善的对抗样本防御框架。
其他文献
易地扶贫搬迁是近年来我国实施精准扶贫工作的重点项目之一,是适用于“一方水土养不起一方人”区域的专项扶贫项目,此类工作的主要目标,即依靠“挪穷窝”、“换穷业”等措施的有效推进,进而达成“拔穷根”之效果,有助于搬迁群众能尽快脱离贫困的境况。关于搬迁,一方面是贫困群体在地理位置上的转移,另一方面也是他们生活模式的重建、城乡格局的重构以及社会关系的重塑,此类特殊的宏观环境中所出现的移民子女群体具有一定的特
学位
<正>近年来,大型语言模型技术不断飞跃,海内外互联网企业在人工智能领域的技术开发及迅速扩张为大语言模型的技术进步与应用落地开拓蓬勃发展的空间。1.大型语言模型的定义及特征大型语言模型(Large Language Model,LLM),即利用大规模语料数据进行预训练的预训练语言模型(Pre-trained Language Models,PLMs),是自然语言处理(Natrual Language
期刊
随着群体智能的广泛应用,多智能体强化学习已成为目前的一个重要研究课题。在多智能体强化学习中,智能体通过强化学习的反馈机制来学习最佳策略。大规模智能体之间的动态交互以及非确定性的环境,导致了多智能体强化学习的复杂性。在学习过程中,很难预测智能体的最佳行为决策。对多智能体系统建立动力学模型,可以定性地洞察系统的演化,帮助理解智能体的行为决策。由于智能体数量带来的计算空间维度爆炸以及动态交互的复杂性,目
学位
为实现国家的战略目标,成都市深入贯彻习近平总书记对四川及成都工作系列重要指示精神,落实关于国资国企改革发展和党的建设的重要论述,不断深化改革重塑国有企业发展动力,在抢抓作为推动国家形成新发展格局的重要支撑的成渝地区双城经济圈,建立健全市场化经营机制,增强企业活力和竞争力上,已经探索出了适合自身的具有地方特色的市场化改革之路。X集团2006年成立至今,虽然在经营管理上取得了小有的成就,但存在的问题依
学位
博弈主体在不同维度上具有异质性的非对称博弈更契合现实世界的状态。因此,探索非对称博弈主体的群体合作行为演化的微观机理有着非凡的现实意义和研究价值,可以帮助理解和解决社会困境。演化博弈论作为有限理性个体通过重复博弈自适应学习以达到演化稳定策略的理论方法,为研究群体合作行为决策规律给予了强有力的支撑。本文利用演化博弈理论,结合复杂网络模型和经典的公共物品博弈模型,分别构建了个体非对称属性和道德的两种不
学位
智能家居自动化系统是指通过物联网远程监测和管理各种装置,通过布置家庭网络以及使用者的个性化要求,完成对所有家居设备的管理以及信息的反馈。物联网环境下,设备的增加使得用户经常关注这些系统执行复杂或组合任务的能力。现有的中文智能家居自动化系统只能执行一些无法满足用户需求的简单任务。由于需要学习大量的编程知识,用户很难使用可视化编程系统开发他们需要的家庭自动化系统。同时,无需用户操作的自动编程只能编写几
学位
近年来,区块链作为处理信任问题的重要技术,在金融、食品安全和交通等多个领域表现出重要的前景。共识机制作为区块链技术底层的核心部分,当前公有链使用的共识机制以工作量证明(PoW)和股权证明(PoS)为主。然而这些共识机制仍存在挑战,例如:PoW在效率与去中心化之间,以牺牲效率来获得更高的去中心化来满足公有链的根本需求,并且存在高时延低吞吐问题。PoS由于权益掌握在少数人中,所以导致了明显的中心化趋势
学位
确定药物副作用的发生频率是药物研发和药物风险-效益评估的关键问题。准确、高效地预测药物的副作用频率,对降低药物安全问题发生概率、保护患者健康有重要意义。药物的副作用频率通常在随机对照临床试验中确定,但此方法性能有限且成本昂贵。随着药物临床试验数据的增加,使得基于数据驱动的计算方法研究药物副作用成为可能。现有的药物-副作用相关预测工作主要研究药物-副作用间的关联关系。与此不同,本文旨在探究药物-副作
学位
软件缺陷对软件的质量和经济影响重大,国外研究表明,每年由于软件缺陷造成的损失就达到上百亿元。因此如何准确、高效的发现软件缺陷,减少软件缺陷带来的损失,是软件工程领域一个热门的研究方向。研究人员开始对软件缺陷的可能性、数量、严重程度、分布规律等进行预测分析,发现软件缺陷与软件开发过程中的代码度量元有关。虽然关于软件缺陷的研究从未停止,但是在实际应用中仍然面临预测结果可解释性差,难以取得开发人员的信任
学位
中小学教师职称聘后管理是教师职称制度中的重要组成部分,是职称评聘制度得以持续发挥激励作用的重要环节,对建设高质量教师队伍具有重要意义。本文把深圳市南山区公办学校教师为研究对象,使用文献法、问卷调查法等研究方法,通过查阅文献、梳理国家和地方有关聘后管理的政策现状,调查分析南山区聘后管理的实施现状,分析聘后管理的影响因素,总结南山区聘后管理存在的问题及其成因,最后提出完善聘后管理的对策。通过问卷调查,
学位