【摘 要】
:
社交网络的迅速发展导致信息的爆炸式增长,亟需性能强大的模型来处理以图像、文本、视频等为载体的信息流,而在各方面表现极佳的深度神经网络在社交网络中得到越来越广泛的应用。除了常见的图像、文本分类、物品推荐等应用外,在一些安全敏感应用中,深度神经网络模型也占据重要地位。因此,深度神经网络也成为攻击者实施攻击时无法回避的关键点,面临着严重的安全威胁。研究人员发现,深度神经网络模型存在固有的安全隐患,其在面
论文部分内容阅读
社交网络的迅速发展导致信息的爆炸式增长,亟需性能强大的模型来处理以图像、文本、视频等为载体的信息流,而在各方面表现极佳的深度神经网络在社交网络中得到越来越广泛的应用。除了常见的图像、文本分类、物品推荐等应用外,在一些安全敏感应用中,深度神经网络模型也占据重要地位。因此,深度神经网络也成为攻击者实施攻击时无法回避的关键点,面临着严重的安全威胁。研究人员发现,深度神经网络模型存在固有的安全隐患,其在面临对抗样本的攻击时表现出明显的脆弱性。对抗样本,即攻击者向正常样本中添加不可察觉的对抗扰动而生成的,可以使深度神经网络模型产生异常输出的样本。目前,对抗攻击已出现在社交网络的各种应用中,这意味着社交网络内基于深度神经网络模型的应用其安全性没有得到有效的保障,存在极大的安全隐患。尽管对抗攻击和防御方面的研究已有较大的进展,但是仍存在许多问题。(1)文本中研究相对匮乏。由于文本的离散性以及添加扰动的易感知性,图像中的方法并不能直接应用于文本中。此外,现有对抗文本的研究工作往往基于英文数据,而中英文语言和处理的差异性导致基于英文的方法不能直接应用于中文的研究中。(2)对抗文本不可察觉性特征研究的欠缺。对抗文本具备三种重要属性:攻击性、可转移性以及不可察觉性。前两者均有较详细的研究,但后者的工作有所欠缺。现有的对抗文本生成工作为了保证添加扰动的不可察觉性,仅采用了一系列语义相似性度量方法,但在特定情景下度量方法的适用性、面对不同类型攻击时的表现等问题并未得到有效的解决,且从视觉相似性方面保证不可察觉性的工作被忽视。(3)面对未知攻击时防御方法的表现不佳。现有的防御方法针对特定攻击或者数据集,缺乏对未知攻击的处理能力,且缺少一个可适用于多种攻击的相对普适的防御方法。(4)新兴的伪造信息检测模型的安全性缺乏探索。深度伪造技术的兴起致使高质量图像、视频的合成更加容易,但这些伪造信息在社交网络上的恶意传播会带来极大的危害。而当前的伪造信息检测模型的安全性不能得到有效保障,需要构建面向对抗攻击的安全机制,保证检测模型的鲁棒性。本文主要针对社交网络中深度神经网络模型面临对抗样本攻击时的安全威胁,以构建相应的安全体系,防御多样化对抗攻击为目标,通过对数据重要特征的感知发掘,重点研究中文类型对抗样本的生成、对抗文本度量方法的比较及相似性约束、普适性的对抗样本防御方法,以及新兴的伪造信息检测模型的安全性探索等四个方面内容,具体工作包括:(1)提出了一种面向中文的黑盒对抗攻击方法,克服了中英文语言和处理的差异性导致基于英文对抗攻击方法在中文上的不适用问题,依据文本中的每个单词对模型决策的影响力并不相同这一特征,设计了一种单词的影响力量化方法,通过对高影响力的词进行同音词替换生成可使深度神经网络模型产生异常输出的中文对抗样本。(2)研究对抗文本度量方法对其不可察觉性特征的影响,比较了现有工作中使用的语义相似性度量方法,探究在特定情景下度量方法的适用性、面对不同类型攻击时的表现等问题,达到在不同场景下正确的选用合适的度量方法的目的,从而保证添加对抗扰动的不可察觉性。提出了一种基于语言规则的约束方法,保证生成的单词级对抗样本和正常样本的视觉相似性,能够生成更加自然的对抗样本。(3)提出了一种适用于情感分类任务,可检测不同类型已知和未知攻击的对抗文本防御方法。利用输入文本中单词对最终分类决策的影响力不尽相同这一特征,对输入文本中各个词的影响力进行量化,通过词的影响力推断整个输入的情感倾向,然后与目标模型的输出进行对比,通过比较两者的一致性来识别输入中的对抗文本。(4)提出了一种新的黑盒条件下的对抗攻击方法,探索伪造信息检测模型在对抗环境下的安全性问题,通过修改伪造图像、视频的亮度和对比度这些与视觉明暗相关特征生成对抗样本,发掘检测模型的薄弱之处,为构建更加鲁棒的检测模型奠定基础。与现有的基于噪声的攻击方法比,本文基于视觉明暗特征的方法在一定防御条件下具有更强的抵抗能力,且更易于实现。
其他文献
在全球范围内,由于过度使用能源投入,导致随意释放对人类生存有害的二氧化碳等气态污染物,各国正在经历令人震惊的气候变化。因此,确定经济增长和生态绩效的交汇点成为当前研究的重要问题。关于环境效率的研究对于减少和控制对环境有害的废物和排放至关重要。各国也非常有必要对环境增长和趋同进行研究,以便评估其投入和产出的使用情况,并采用可同时达到效益化生产目标和改善环境问题的技术。因此,本研究旨在评估亚太国家环境
电信行业与经济增长相协调的迹象日益显现。全球电信行业处于人类实现可持续发展目标的中心位置。最近的预算指出,可持续发展目标的实现每年需要额外2.4万亿美元投资于全球卫生、能源、农业、教育和其他可持续发展部门。并支持网络用户友好型经济。基于此,学者们认识到为了在这种多元化和不断变化的环境中获得竞争力,客户关系管理和创新电信行业创造价值的重要催化剂。尽管客户关系管理和创新被广泛认为是与组织竞争优势相关的
经济增长与发展同步的突出性是一个在文献中被广泛讨论的原则。根据世界银行的数据,在过去的四十年里,非洲的平均年增长率稳定在1.6-4.9%之间。另一方面,公平的资源分配和在发展过程中的包容性,一直是争论的焦点。在传统的非洲经济中,一些人在繁荣和富足中茁壮成长,而另一些人则在赤贫中苦苦挣扎。因此,非洲必须集思广益,探讨如何让金融部门和治理有益于民众。这将把讨论引向包容性增长。2015年,联合国制定了可
各类创新都是支撑经济弹性增长的基本实践。在当今的商业和市场环境中,创新是酒店等商业公司生存的关键。因此,由于加纳的经济很大程度上依赖于中小企业,酒店就成为了这一难题的重要部分。然而,迄今为止对创新的研究主要集中在发达市场经济和制造业,对服务业的关注较少。到目前为止,很少有研究对创新类型与企业绩效之间的关系进行综合全面的研究。因此,这就产生了一个研究差距,如果不加以解决,就有可能导致政策失衡。准确地
20世纪90年代至21世纪初,发达国家许多公司面临困境甚至倒闭,对良好公司治理(CG,Corporate Governance)的要求迫在眉睫。与此同时,由于公司治理机制对企业绩效会产生影响,非洲经济体在公司治理机制的设计和运行上开始模仿一些发达经济体的成功经验。数十年来,尼日利亚和加纳两国在制定适应其社会经济环境发展的公司治理机制及其运行方面经历了一系列改革,以期实现更优质的企业绩效。一些研究已
改革开放40多年来,中国经济持续高速增长,极大提升了人们的物质生活水平,但也对自然环境造成了严重污染,付出了巨大的环境代价。传统的高投资、高能耗和高排放的粗放型增长方式已经成为制约中国经济可持续发展的瓶颈。因此,有必要转变经济发展方式,推动绿色全要素生产率增长,实现经济高质量发展。由于环境资源具有稀缺性、公共物品性、产权界定不明等特征,单纯依靠市场机制难以解决环境污染问题,更无法推动经济高质量发展
如果不考虑金融发展、经济增长和减贫在提升这些政策方面的协同作用,就无法实现非洲联盟2030、2063及以后的战略,重点是转型经济增长、区域一体化、赋予民众权力以及巩固和平与社会。非政府组织、世界银行、国际货币基金组织和许多其他组织制定了各种战略来应对这一全球性祸害,从而对金融发展与宏观经济指标之间的中短期相互作用进行了大量实证研究。近年来,许多文献讨论了金融发展和经济增长对非洲发展的重要性,争论了
移徙是古代一種常見的社會活動,是人口管理的一個重要方面。本文全面搜集與漢代移徙有關的傳世文獻與出土資料,通過對相關史料的文本整理、解讀分析,系統討論漢代的移徙活動。本文由緒論、正文、結語、參考文獻組成。正文分六章:第一章主要討論漢代不同類型的移徙活動。包括徙關中、徙民實邊及邊民内遷等政策性移徙,流民移徙,歸義民族、犯人等特殊群體的移徙及一般的家庭移徙等,并討論了各類移徙的對象、成因等問題。第二、三
自上个世纪70年代以来,“伍德命题”在中外马克思理论学术界引起持续的论争。这一命题主张马克思并不认为资本主义是不正义的,同时主张马克思是基于非道德的善而批判资本主义,而不是基于道德的善,比如正义。这种主张与100多年来人们所熟知的那个马克思及其理论印象直接相对立,从而扰动了可能正沉静一时的马克思主义理论中最核心的内容——唯物辩证法、唯物史观和剩余价值理论。这个最核心的内容从而立即活跃起来,起来反对
《文心雕龙》的批评方法不仅是刘勰文论的核心元素,也是中国古代文论的宝贵资源。既有的《文心雕龙》批评方法研究或热衷于“以西释中”,或专注于“一隅之解”,常常遮蔽了刘勰文论固有的中国性和整体性。《文心雕龙》的批评方法既根源于儒道释文化的方法论,更是刘勰对他那个时代文学理论和批评问题的现实回应。就后者而言,刘勰文论的问题意识表现为与批评方法相关的三大现实忧虑:一是“近代之论文者……并未能振叶以寻根,观澜