基于序列模型的白盒攻击算法研究

来源 :电子科技大学 | 被引量 : 0次 | 上传用户:maigao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着深度学习的兴起,越来越多领域开始使用深度神经网络和循环神经网络构建性能卓越的数据驱动的模型结构。比如在自动驾驶和智能安防等场景下,深度模型的出现使得这些技术出现了较大的进展,因为基于大规模数据的深度模型在自然情况下可以对图片进行高效、高准确性的计算和判断。但是有部分研究员们却发现深度模型存在一个比较严重的隐患,即通过对图片添加一些很小的扰动便可以导致模型做出错误的判断。在高性能要求的应用场景中,这一现象无疑会极大的阻碍深度模型应用进程。因此,越来越多的研究员开始关注如何理解深度模型的这一异常现象。在理解模型抵抗这种扰动的性能之前,一个比较前置的任务便是如何能够更好的生成扰动即如何攻击模型,因此当前许多研究都集中在开发能够更高效生成干扰的算法。针对这个问题,目前大部分的研究都主要集中在如何更好的生成针对分类模型的扰动,比如分类、检测和分割等任务。对比于分类模型的输出长度比较固定,序列模型的输出是具有多个标签的长度可变的序列,因此针对序列模型的攻击研究比较少。同时受限于算法的对扰动生成任务的不同定义,许多攻击算法无法兼顾高效率和高性能。本文主要聚焦于构造一种同时兼顾高效率和高性能的序列模型攻击任务。本文首先回顾了一下模型攻击的主要算法,随后针对三种不同的任务提出了不同的攻击算法:(1)本文拓展了一种针对车牌分类模型的黑盒攻击算法,使用可学习参数的采样分布来建模扰动的最佳生成位置从而达到更高效攻击的目的;(2)本文提出一种针对场景文字识别模型的白盒攻击算法,定义一个最优化任务来解决序列模型的对抗攻击定义,只取扰动梯度的方向来达到高效攻击的目的;(3)将前面提出的白盒攻击算法抽象出来并应用到图像描述任务中,实验也表明了本文提出的白盒攻击算法的有效性。最后,本文基于当前的研究探讨了序列模型的对抗攻击中值得探索的未来方向。
其他文献
近年来,随着人工智能、深度学习领域的发展,深度神经网络模型得到了广泛的研究和应用。其中,计算机视觉方面的研究也取得了突破性的进展,并有许多研究已经有了具体落地应用,这为人们的生活带来更多的方便。然而,对于神经网络的训练,往往需要基于大量的实验数据,而数据的提供方式在实验场景和实际场景有较大的差别。在实验条件下,数据往往是完整的理想化的,由人工直接提供。但在现实世界中,数据往往是随着时间逐渐提供的。
学位
学位
由于脑电信号反映了大脑神经的基本活动,所以能够客观反映出人的内在情感。然而在脑电信号采集过程中不可避免的出现伪迹,这将导致脑电信号质量不佳;以及现有的特征选择方法无法提取与情感相关的通道,从而将与情感无关的通道也参与脑电信号分类之中,这些结果都会导致脑电信号情感效果较差。为解决上述问题,本文以SEED数据集、DEAP数据集为研究对象,将稀疏化理论引入脑电信号情感分类之中,对特征提取选择和分类算法进
人类对于世界的探索已经不仅仅局限于陆地和海洋,而是将探索的方向转向了更为广袤的天空和宇宙,因此对各个国家在航空航天领域的技术实力提出了更高的挑战,国家在空气动力学领域的研究与进步也就显得尤为重要。空气动力学中在获取气动数据时仍依赖较为传统的方法,但此类方法的局限性较大,通常具有较高的时间或经济成本。而当前人工智能技术的蓬勃发展为空气动力学领域气动数据的获取方式的发展提供了新的契机。空气动力学领域传
人体动作识别作为视频分析中一个非常重要的组成部分,其已经在多个重要领域发挥至关重要的作用,包括视频监控、人机交互、自动驾驶等等。传统的人体动作识别主要基于RGB图像或视频,但由于尺度、光照变化以及背景噪声等因素的影响,效果不尽如人意。近年来,得益于深度传感器的发展以及人体骨骼关键点检测算法的成熟,越来越多的研究聚焦在基于骨骼关键点的动作识别算法上,并且开始使用图卷积对人体骨骼进行建模并加以分析。本
人工智能技术如今在诸多领域已经取得了巨大的突破,得到了非常广泛的应用,例如目标检测、图像识别和自然语言处理等。目前由于“数据孤岛”问题和愈发严格的隐私安全管控,人工智能技术面临着缺乏高质量训练数据的困境。由于联邦学习支持用户在不分享原始数据的条件下联合训练模型,能够汇聚更多分散的数据共同建模,因此逐渐成为人工智能研究领域的热点。然而,联邦学习环境中存在的数据异质性和系统异质性因素会导致模型训练效率
在多目标优化问题(multi-objective optimization problems,MOP)中,一个子目标的改善可能会引起另一个或者另几个子目标的性能降低。因此不存在同时优化所有目标的全局最优方法,而是存在一组能够权衡冲突目标之间的解决方案。演化算法(evolutionary algorithms,EA)由于其基于种群的特征已被广泛认为对多目标优化有效,算法以尽可能权衡各个优化目标来保持
得益于互联网和移动设备的广泛应用,以信息流形式为基础的电子商务平台和短视频平台正在占用更多的流量和用户时长。为了解决“信息过载”问题,个性化推荐系统成为了互联网厂商重点发展的核心技术。本文以多媒体推荐系统为研究课题,主要关注大规推荐排序算法中普遍存在的挑战,重点研究了利用深度学习和多模态学习解决用户冷启动,物品冷启动,小样本量等问题。主要内容分为三部分。第一,物品冷启动。物品冷启动指的是新的物品加
自动求解数学题是机器智能推理领域的一个重要子问题,用于解决这该问题的自动求解器通常为一种特定的机器智能系统。广义的来说,在推理任务中,机器智能体需要依据给予的信息(如事实描述或观测信号)和已有的先验(如模型结构和常识知识),在特定的限制下来解决特定的问题或者给出总结。更具体地,对于自动求解数学题系统,求解器需要依据给定的问题描述和数学先验知识,生成符合规范可计算的解题等式。该任务基于检测机器智能体