面向图像识别的后门攻击安全性测评研究

来源 :西北大学 | 被引量 : 0次 | 上传用户:szlucky
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
目前,图像识别技术已经日趋成熟,在人脸识别,图像搜索,无人驾驶等众多领域得到了广泛应用。但是,在使用图像识别模型进行决策的过程中,训练数据来源的安全性难以保障,这有可能导致训练出的模型存在安全隐患。攻击者会通过在训练数据集中插入一些带毒样本对模型进行恶意攻击,当有毒数据被攻击者激活后,会使本身在良性样本上表现良好的模型的预测性能发生恶意转化,这种攻击被称为“后门攻击”。现阶段对于后门攻击中触发器参数的设置还没有统一的安全评价基准,针对后门攻击的模型安全性测评亟需开展研究。本文首先研究了后门攻击触发器的中毒率、像素点数量、排列、颜色等参数对其攻击效果的影响,通过分析实验数据挖掘影响因素与后门攻击间的映射关系,提出了一组适用于对常规图像识别模型进行后门攻击的触发器设置基准参数,可用以评估后门攻击在对不同图像识别模型的攻击效果。其次,本文针对后门攻击的图像识别模型安全性测评,提出了需要的评测数据和评测指标。利用文中的触发器设置基准参数,设计了一套图片分类模型安全性测评框架,此套框架能够在大规模数据训练前完成模型的安全性测试,定位对应的安全问题,提供针对性的防御策略,从而有效排除模型的安全漏洞和隐患,提高模型的安全性,避免了因大量数据的反复训练导致的计算资源的浪费。
其他文献
随着人类社会文明的进步,人与人之间信息的传递由听觉主导逐渐让位于视觉主导,时至今日,“读图时代”的到来愈发成为人们的共识。图符语言作为一种基于图像与意象的视觉信息传递媒介,丰富了人们日常交流的表达形式。针对西北大学J824实验室提出的一种图符语言“和”,本文对“和”语言移动端输入法——和弦展开以下研究:1.分析国内外图符语言的研究现状,结合口语文化背景对“和”语言口语化模型进行建模,给出了“和”语
从CT血管造影数据中获取可靠的冠脉中心线对临床实践具有重要意义,冠脉中心线可以为冠脉的狭窄评估和动脉粥样硬化斑块提供先决条件,所以学者们开始用不同的研究方法从计算机断层扫描血管造影(CTA)中提取中心线。由于冠脉中心线细小、结构复杂,并且存在低剂量成像噪声以及呼吸心跳引起的重建伪影等问题的影响,导致冠脉中心线的获取非常困难。为此,本文提出了一种基于深度追踪网络的多任务冠脉中心线提取方法。文中的贡献
人群密度估计是人群计数工作中的重要计数方法。目前,大多数人群密度估计方法都侧重于研究单视角图像内人群头部特征的提取方式,但由于视角信息的不足,这类方法难以解决人群遮挡和广域计数等问题。因此,为了解决这类问题,论文重点研究多视角人群密度估计的相关方法,并针对多视角人群密度估计方法中的图像空间信息提取不足、多尺度目标特征提取不充分、特征空间映射结果不准确等问题进行优化,以提高多视角人群密度估计方法在不
视频可以提供比图像更丰富的视觉信息,从视频中提取的时空特征可应用于多项视觉任务。如:视频检索、动作识别、视频生成等。在现有的视频时序特征学习的模型训练过程中,视频被随机输入到网络模型中来学习时序特征。但在现实情况下,视频具有不同级别的帧/视频段的序列显著性,模型更容易准确识别具有帧/视频段序列显著性高的视频,而不容易准确识别帧/视频段序列显著性低的视频。因此,有效利用帧/视频段序列的显著性将有利于
秦岭是横跨中国中西部亚热带和暖温带间的过渡区域,是中国南北的地理分界线和黄河与长江水系的分水岭。由于秦岭独特的地理位置,使得该地区孕育了丰富的物种资源。秦岭也是世界生物多样性热点区域之一,被称为世界罕见的―生物基因库‖。然而,长期以来,秦岭地区特有植物响应地质变迁的起源进化历史以及全球气候变化对秦岭地区特有植物的影响机制尚不清楚。本研究以我国秦岭地区自然分布的30种特有植物为研究对象,通过二代测序
随着教育普及性提升,大学生人数日益增加,具有心理问题的学生也越来越多,能否及时发现心理异常学生是目前高校面临的主要问题之一。高校教育大数据对分析和识别心理异常学生发挥着至关重要的作用。本文以学校一卡通、教务系统、门禁系统及相关业务系统收集的教育数据为基础,通过对海量杂乱的学生在校数据进行数据清洗、变换等处理后,提取学生行为特征。并通过假设检验分析正常学生与心理异常学生的在校行为特征差异,最终建立识
工业化进程的加速和城乡建设空间的扩张推动了我国城乡结构的巨大变化,具体而言,2019年我国的常住人口城镇化率约是1978年的3.4倍,而城镇人口则是1978年的4.9倍。40多年“压缩型”城市化进程,给我国的城市发展带来了诸多问题。党的十九大以来,城市建设开始步入追求高质量发展的新时期,面对国土空间规划工作的全面开展,识别和划分不同城市用地的主导功能,是确定城市未来发展方向的重要基础,也是构建国土
在线学习的重要目标之一是实现基于智能技术的个性化学习服务,从而促进规模化下的个性化教育。为此,教学资源服务的智能化、个性化改造成为两项核心任务。论文以此为目标,通过对教学资源基于知识图谱技术的重构组织,配套对学习者学习水平和需求的测评分析,实现面向学习者的个性化学习服务。为此开展了相关技术的研究和系统原型实现,形成基于知识图谱的个性化学习平台,它将知识点的学习、习题的训练和个性化推荐相融合,构成一
信息时代的教育正面临着从学习规模化向个性化的转变,我国教育生态变革和重构充满机遇和挑战。智能教育是以人工智能、大数据、物联网为代表的智能技术与教育深度结合,具有个性化、终身化等特征。为此,满足学习者的知识检索和个性化学习需求,同时支撑和服务于教师教学工作,贯彻“以学生者为中心”的育人思想和泛在学习理念,开展有关研究具有重要意义。本文以中学数学学习的个性化为切入点,探索面向智能教育的教学环境条件的构
随着中国逐渐成为世界格局中的重要力量,我们和不同文化交流的重要性与日俱增,我国文化走出去的战略充满机遇和挑战。文化走出去,就要先引进来学习。诗歌作为文学作品中的瑰宝,深受人们喜爱,可以搭建文化学习和交流的桥梁。实现诗歌的自动翻译,有利于对外国文化有选择地借鉴和吸收,全面地认识到“国外的月亮不都圆”,弘扬民族传统文化,坚定民族文化自信。诗歌的翻译是一项极其具备挑战的任务,面临主题漂移、数据单一、格律