【摘 要】
:
深度学习可以从原始输入特征中以更高和更抽象的层次表示来提取数据的复杂性,从而实现各种功能。这使得深度学习在各种领域中取得了重大进展:图像分类、对象识别、对象检测、语音识别、语言翻译和语音合成等。在大数据、硬件加速和学习算法的推动下,深度学习为不断增长的实际应用和系统提供了支持。智能语音助手,推荐系统和自动驾驶等系统正成为生活中不可或缺的部分。尽管在众多应用程序中都取得了巨大的成功,但最近的研究发现
论文部分内容阅读
深度学习可以从原始输入特征中以更高和更抽象的层次表示来提取数据的复杂性,从而实现各种功能。这使得深度学习在各种领域中取得了重大进展:图像分类、对象识别、对象检测、语音识别、语言翻译和语音合成等。在大数据、硬件加速和学习算法的推动下,深度学习为不断增长的实际应用和系统提供了支持。智能语音助手,推荐系统和自动驾驶等系统正成为生活中不可或缺的部分。尽管在众多应用程序中都取得了巨大的成功,但最近的研究发现深度学习模型容易受到精心设计的输入样本的攻击。这些样本被称为对抗性样本,对抗性样本可以欺骗深度学习模型,但对人类的判断影响很小。为了更好的研究对抗性样本并有效的降低对抗性样本的危害,本文将重点关注于针对对抗性样本的保护技术的研究与实现。主要涉及基于细粒度检测的多版本防御技术,基于数据可解释性的主动防御优化方法和基于关键节点的对抗性攻击和防御方法的研究三个方面。首先,针对目前防御方法无法防御所有的对抗性样本攻击的问题,提出了基于细粒度检测的多版本对抗性防御方法。研究了典型的对抗性样本攻击的攻击性能和攻击特点,设计了一种基于范数的对抗性样本分类和定级规则,将现有的对抗性攻击分为六种类型。测试针对这六种对抗性样本攻击的十种典型防御方法的防御性能,并且推荐了针对每种类型对抗性攻击的最优防御方法。然后,针对对抗性样本被动防御方法的高时间成本问题,提出了一种基于数据可解释性的防御方法以低时间成本抵抗对抗性攻击。根据输入样本的可视化结果,提取其分类关键区域。在分类关键区域上进行了一系列输入转换。通过初步实验对基于数据可解释性的防御方法进行了评估,证明了该防御方法的有效性。最后,研究了使用关键神经元节点来加强对抗性样本攻击和防御。通过对对抗性扰动在深度神经网络模型的单层和多层中的传播进行建模,观察到关键神经元节点在扰动传播中起主要作用。基于此观察,提出基于关键神经元节点的非目标攻击和目标攻击,并进一步设计了基于关键神经元的对抗训练方法。通过实验对基于关键神经元节点的攻击和防御方法进行了评估,证明了这些方法的有效性。
其他文献
互联网兴起至今不过30年,已经发展成为一个庞然大物,互联网提供的服务从最初的文本浏览到今天的各种纷繁的功能业务,其核心都避不开文件的传输即下载,文件下载在为用户带来便利的同时也带来了在线盗版文件下载。而且近年来随着我国网络基础设施的快速发展,网速出现了飞跃性的进步,盗版文件的传播也变得更加快速,盗版文件的下载出现了传播量大、有效时间短的特点。基于以上因素,本文提出了一种主要面向盗版下载文件的下载信
随着网络技术的高速发展,网络规模的扩大和应用数量的增加,使得用户对网络的服务质量保障提出了新的要求,亟需高效的路由算法对业务流的服务质量(Quality Of Service,QoS)需求进行保障。但是传统网络架构复杂,难以获取全局视图,限制了路由算法的设计和部署,无法提供理想的QoS保障。而软件定义网络(Software Defined Network,SDN)架构的提出,解耦了控制平面和数据平
随着生活智能化的进程,说话人识别与说话人属性分类在身份认证、公共安全以及智能家居等领域有着越来越广泛的应用,但由于实际应用场景的复杂性,现有基于深度学习的声纹识别和说话人属性分类技术虽然能在静音的理想环境中能够达到较高的识别效果,其对于环境噪声的鲁棒性和识别准确率还有待提高。本文旨在研究具有高鲁棒性说话人识别和说话人属性分类系统,提升其在复杂环境中的准确率,具体研究内容如下:1.提出基于注意力机制
时序数据预测算法已经成为许多社会服务的基础,利用机器学习来对时序数据进行预测是常见的手段,当需要大量计算资源的时候会将计算任务交付给云平台进行处理,云平台为算法提供充沛的算力支撑,然而云平台缺乏灵活性且消耗过多的带宽。为此可将算法下沉到边缘端,边缘端的轻量化可克服云平台的笨拙,但边缘端由于自身硬件的限制,难以提供像云平台那样充沛的算力,导致在进行时序数据预测的时候会出现算力不足或者耗时过长的情况。
互联网技术的快速发展和移动终端的普及向用户们提供了海量的信息资源,用户逐渐习惯于网上购物、看视频、听音乐以及浏览新闻资讯。然而这些丰富的资源也带来了信息过载的问题,使得用户可能需要花费大量的时间以及精力来从海量的信息中检索到感兴趣的内容。如何全面并且精确地帮助用户找到需要的内容成为了个性化推荐系统中的主要目标。向用户们推荐没有参观过的且可能感兴趣的兴趣点(POI)是基于地理位置的社交网络中基本应用
与轮式和履带式移动机器人不同,四足式机器人能更好的适用于各种非结构化地形,具有良好的越障能力,机动性强,具有广泛的应用前景。由于四足机器人自由度高,动力学建模繁杂困难、计算量大,控制算法复杂,难以满足实际使用要求。为此,本文重点围绕四足机器人的动力学建模与控制方法开展研究,主要工作如下:首先在国内外四足机器人常见构型的基础上,提出了一种连杆传动的四足机器人结构方案。在分析传统牛顿欧拉迭代算法的基础
近些年来,随着人工智能日新月异的变化与发展以及自然语言理解技术的不断突破,人机对话系统因其广阔的应用场景以及极大的商业价值受到大量研究人员的关注。得益于互联网的迅速发展和海量数据的产生,深度学习技术获得了长足的进步,依赖于深度学习的端到端对话系统逐渐成为主流。基于端到端方法的对话系统能够根据输入,直接生成对应输出,减少了人工标注数据的工作量,消除了传统管道方法中的误差累积问题。但是,端到端方法仍存
自“建筑工业4.0”战略提出以来,越来越多的建筑机器人出现在了施工场地,不过就目前而言,建筑机器人的信息化程度仍很不足,缺少远程实时的监管手段。随着云计算技术的高速发展,计算能力和存储资源可以像商品一样被购买,数据上云也成为了越来越多的用户的选择,因此本课题旨在设计并实现一个云端实时监管系统,为建筑机器人提供远程实时的监控与管理服务。本文首先对系统涉及到的相关技术和理论基础进行了调研。然后根据系统
近年来,有关盲源分离的研究越来越多,盲源分离也被应用到生产生活的方方面面。从1953年Colin Cherry提出的“鸡尾酒会问题”,到如今基于神经网络的语音分离算法模型,盲源分离技术也在逐步向更广更深的方向发展。在本文中,作者将选取音乐场景,提取其中的人声信号。目前,已有包括全连接神经网络、卷积自编码器和循环神经网络在内的人声分离模型算法。本文基于卷积自编码器人声分离模型进行改进,提出了基于全卷
高铁是一种非常重要的交通方式,具有承载能力强、速度快、成本低、耐候性强等特点。目前,我国在高铁发展方面的投入持续提高,高铁的规模极速提升,而相关安全问题愈加值得重视。然而,传统的缺陷检测方法效率低、错误率高。本文基于深度学习,重点研究了接触网部件识别方法、接触网与钢轨缺陷检测方法。主要工作和贡献如下:1、数据预处理。对采集到的数据进行图像筛选处理、数据增强处理、手工标注处理等。当前,大多数深度学习