面向领域自适应场景的无监督数据投毒攻击技术研究

来源 :武汉大学 | 被引量 : 0次 | 上传用户:auroragame_luoxl
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据时代的到来,不同领域的海量无标签数据不断累积,能够学习跨域数据统一特征表示的无监督领域自适应技术逐渐成为研究热点,该技术通过将源域的知识迁移到无标签的目标域上,提升了人工智能模型对不同数据域的泛化能力,有效弥补了人工智能技术应用对跨域无标签数据识别能力上的不足。然而,现有工作表明,基于数据的人工智能技术的安全可用性面临着数据投毒攻击的威胁,攻击者通过在训练数据集中加入伪装的恶意样本破坏数据的完整性,能够诱导机器学习模型对良性输入做出错误的决策。随着海量数据的涌现,数据来源是否可信难以验证,导致在模型的训练阶段发动对人工智能系统的攻击成为最直接有效的途径,其潜在威胁巨大。然而,现有投毒攻击只在有监督场景下被验证有效,无监督领域自适应技术面对投毒攻击的脆弱性仍然是未知的,亟需进一步的探索研究。本文针对领域自适应技术的安全性问题,以攻击视角分析多域无标签环境下深度学习模型和算法面临的潜在风险,提出面向领域自适应场景的无监督跨域投毒攻击方案,实现了对无监督领域自适应技术安全可用性的破坏。该攻击方案的基本思想是通过对源域注入投毒数据,误导不同数据域的混淆过程,破坏无标签目标域数据的识别精度,实现跨域无监督投毒。具体而言,针对白盒攻击场景,本文提出一种基于双层优化的无监督数据投毒攻击方案LFPA-w,利用源域和目标域的潜在相关性为目标域数据提供伪标签,通过双层优化方法破坏目标域数据特征和伪标签的关联性,从而降低模型在目标域的性能表现;针对灰盒攻击场景,本文提出一种基于模型集成的普适性数据投毒攻击方案LFPA-g,通过对多个领域自适应模型的学习,得到统一的投毒优化方向,从而对多模型产生普适性攻击效果,实现了跨模型的数据投毒攻击。为了提升投毒攻击效果并降低攻击成本,本文对于“初始点选择-梯度方向计算-梯度方向修正”整个迭代更新全周期进行优化,利用影响函数选择对攻击目标贡献最大的训练样本作为投毒初始值,利用步逆向微分法降低双层优化的时间复杂度,同时对训练目标具有副作用的梯度进行裁剪,从而实现了高效且精准的投毒。最后,本文通过大量的真实数据集进行仿真实验,结果表明所提方案能够以高成功率实现面向领域自适应技术的可用性投毒,阐明了领域自适应技术面对数据投毒攻击的脆弱性。
其他文献
近些年来,国际环境发生巨大变化,虽然发展仍然是当今世界的主旋律,但是全球竞争进一步加剧。面向未来,我们更应该坚持科技创新发展战略和国家品牌经济战略,依靠科技创新和品牌建设,实现我国经济高质量发展。科创园区作为科创中心建设的重要承载区,也面临着同质化竞争加剧的问题,如何通过打造科创园区品牌,加强园区品牌管理以促进园区发展,成为当前研究和探索的重点。本文以B公司科创园区为研究对象,B公司作为上海的园区
基于互联网5G场景的加速应用,各个行业都在进行不断的重塑,从而提升现有效率或者创造新的模式。数字化、智能化带动企业精细化运营的转型、实现降本增效。B公司作为一家全球领先的综合性化工公司,致力于成为在整个化工行业中数字化转型的先行者。在南京成立了其全球数字化中心事业部,为B公司所有下属公司提供数字化软件开发领域的产品和服务,以推动B公司持续发展。在薪酬福利方面,B公司数字化中心仍然沿用B公司的整体结
学位
根据《上海市进一步推进高中阶段学校考试招生制度改革实施意见》的通知,从2017年入学的这届学生起,初中中考新增10分的听说测试。中考改革的新形式,体现了国家对于初中生英语听说能力的重视,对学生的听说能力提出了更高的要求。然而,大部分教师对听说教学不重视或者心有余而力不足,常常感觉无从入手。因此需要探索适合当前新形式下英语听说课的教学模式。任务型教学法起源于20世纪80年代,当今已经成为了一种较为成
过去三十来我国的对外直接投资高速增长,为世界经济发展注入活力的同时,更是深深影响了我国的经济、社会、民生各个方面。与此同时,我国的劳动收入份额呈现出明显的下降趋势,这一点已经在学者中达成了共识,学术界也有众多研究劳动收入份额的变动趋势及其变动因素的文献。站在微观层面,企业进行对外直接投资会对内部要素流动和要素需求有所影响,进而影响到劳动收入分配,然而却极少有文献研究全球化中的对外直接投资对劳动收入
农机购置补贴政策作为一项重要的兴农、强农之策,自2004年施以来,为我国农业机械化、农业现代化,以及促进农民收入提高做出了巨大的贡献,保障了农业的基础性地位,但是经过本文研究发现,该政策实施过程中仍存在着一些问题。同时,已有研究结果显示农机购置补贴政策对农业机械化水平存在空间溢出效应,即本省的农机购置补贴物化的农业机械,不仅能提高本省的农机化水平,而且通过农机跨区域作业,能一定程度提高外省的农业机
近年来,创始人与外部投资者之间的控制权之争屡见不鲜。企业创始人为实现企业快速发展,通常会引入外部投资者。然而融资行为可能会造成股权稀释,加大创始人控制权转移风险。因此,本文研究创始人控制权维持路径及创始人控制权维持产生的影响,可为创始人防范融资过程中的控制权转移、上市公司面临控制权之争时维持控制权提供借鉴,也可为完善相关制度、规范控制权争夺与维持的方式提供参考。本文首先通过对相关文献的归纳整理,对
学位
近年来随着网络直播行业在不断发展,直播经济体量也在不断攀升,打赏成为了争议颇多的社会性话题。这种行为起初仅出现在线下,具有较为强烈的主动性和自愿性,即围观观众若对此表演毫无兴趣,可随时离开,无任何强制要求。但如今随着互联网水平与移动支付技术的飞速发展,只通过一部手机即可完成过去的现场打赏模式逐渐。这种变化在方便了平台用户的同时,也导致因虚拟场景下瞬间完成行为所引发的法律纠纷的陡增。通过研读近年来的
学生思维能力的培养是教师教育教学过程中的一大重点,学生的思维能力的发展对学生未来更好地适应社会并且服务于社会起到了至关重要的作用。而英语教师,尤其是初中教师,更倾向于关注学生语言和语法知识的习得以及语言能力的培养,对学生思维能力的培养和评价的重视度普遍不高。基于以上现状,本文选择以表现性评价在初中英语阅读教学中对学生思维能力的发展为研究对象,对初中生在英语学科上思维运用的现状、表现性评价相关文献、