【摘 要】
：
近年来,随着深度学习的发展,人工智能与人们的生活越来越紧密,在人脸识别、自动驾驶、医疗等领域已经得到了广泛的应用。与此同时,人工智能的安全问题也越来越突出。深度学习模型极易遭到对抗样本的攻击,攻击者只需对图像进行一些人眼无法识别的改动即可成功欺骗深度学习模型,从而导致深度学习模型给出错误的结果,进而引发极其严重的后果。针对这些攻击,研究了以下三种算法,其主要功能是通过对分类器网络增加一个额外的附加
论文部分内容阅读
近年来,随着深度学习的发展,人工智能与人们的生活越来越紧密,在人脸识别、自动驾驶、医疗等领域已经得到了广泛的应用。与此同时,人工智能的安全问题也越来越突出。深度学习模型极易遭到对抗样本的攻击,攻击者只需对图像进行一些人眼无法识别的改动即可成功欺骗深度学习模型,从而导致深度学习模型给出错误的结果,进而引发极其严重的后果。针对这些攻击,研究了以下三种算法,其主要功能是通过对分类器网络增加一个额外的附加网络,对输入的样本进行处理,消除样本中含有的扰动信息,以此提升分类器网络对对抗样本的识别正确率。1)研究了基于卷积去噪自编码器的相似度分类器防御网络。该网络采用一个额外的相似度分类器,对去噪自编码器的编码矩阵进行特征分类,提升了网络在高维空间上的可分类性,增强网络的可解释性。在实验中,FGSM攻击在ε取值为0.1时的识别正确率为96.5%。但该算法也存在一定的计算量过大以及梯度消失等问题,于是提出了第二种算法。2)在相似度分类器的基础上研究了基于卷积去噪自编码器的softmax分类器防御网络,通过引入全连接层将特征进行映射,降低特征维度,进而降低运算量,同时定义多个损失函数同时对网络进行优化,解决相似度分类器梯度消失的问题。存在多个损失函数时,确定了交替式迭代进行优化。最后实验结果表明,FGSM攻击在ε取值为0.1时的识别正确率为99.51%,防御效果显著。3)研究了基于卷积去噪自编码器与生成对抗网络的混合防御算法模型,该算法基于生成对抗网络和卷积去噪自编码器,通过将生成对抗网络的生成器端替换为softmax分类器去噪自编码器,对softmax分类器去噪自编码器以及整个生成对抗网络分别进行训练,使得生成对抗网络具有了 softmax分类器去噪自编码器的特征,可以从训练样本中学习到去噪的能力,同时也使得去噪自编码器不再局限于去噪的能力,让去噪自编码器获得了生成对抗网络的生成图像的能力。最后实验表明,FGSM攻击在ε取值为0.1时的识别正确率为96.62%。
其他文献
近年来,卷积神经网络（CNN）作为深度神经网络的子类得到了广泛的普及。CNN彻底改变了诸如自然语言处理,图像分类和语音识别等任务的执行。通常,CNN可以通过CPU、GPU、ASIC、FPGA等平台实现。在人工智能物联网（AIOT）设备方面的应用,对于便携性和低功耗有更高的要求,另外需要针对不同精度类型的算法模型设计不同的神经网络处理器。而论文提出了一种基于FPGA平台设计的混合精度神经网络处理器,
随着互联网应用的发展,网络容量的需求也在迅速增长,发展高速大容量的光纤通信系统迫在眉睫。但是高传输速率、大信道容量和长距离传输的研究却受到两种因素的限制:线性损伤,包括光纤损耗、色散、偏振模色散;非线性损伤,包括自相位调制、交叉相位调制、四波混频等。在长距离传输系统中,光纤非线性是限制信道容量和传输距离的重要因素之一,因此光纤非线性均衡技术在光纤传输中具有重要的现实意义。为了补偿光纤非线性效应,实
无人机（Unmanned Aerial Vehicle,UAV）编队在近几年凭借灵活性好、机动性强等多项优点在多个领域应用越来越广泛。无人机编队控制需要保证编队的队形形成、保持和避障,若采用不合适的控制方法,则会产生许多问题,如目标位置的振荡问题、目标不可达问题、避障不安全等。无人机编队任务分配需要为每个无人机分配执行任务集并决定任务执行顺序,实际情况下,各个任务之间存在资源需求的差异,各个无人机
SLAM（Simultaneous Localization and Mapping,SLAM）技术旨在估计自主移动机器人在陌生环境下的位置变化,同时构建包含空间几何信息的环境地图。当前,大部分开源的SLAM方案已经实现了静态场景下自主移动机器人大范围内的实时定位与稀疏地图构建。而传统的SLAM方案仍然存在以下问题:一是在动态环境下,无法避免行人等移动物体造成的漂移误差,因此在实际应用中受到一定的
目前焊接企业主要是通过人工来完成焊接信息的采集、监控并对焊接质量进行评估,成本高、效率低的同时,无法满足现代化焊接技术的需求。随着被称为信息物理系统融合的德国“工业4.0”的提出,我国提出了“中国制造2025”发展战略,工业生产将进入信息化、数字化、智能化的阶段,将智能生产和制造的实现视为现阶段发展的重点,随着各类智能传感器、无线通信技术在工业领域的广泛应用,以及深度学习理论在图像检测方向的发展趋
得益于大数据、大模型、GPU集群的推动,人工智能技术飞速发展,但是在此基础上训练出更准确、表达能力更强的优秀人工智能模型绝非易事。这也促进了并行化、分布式的机器学习技术飞速发展。目前的分布式机器学习框架中,计算节点的参数计算和参数通信过程是串行紧耦合的,造成计算资源利用率不高。同时随着近年来专用高速计算硬件设备的快速发展,计算能力的增长遥遥领先于网络数据传输能力,且高速的计算设备使得分布式机器学习
随着视频数据的逐步增加,利用人工筛查的方式进行目标行人的锁定和跟踪已经越来越难以适应大型视频监控系统。在逐步增长的海量视频数据中,如何自动化快速的进行目标行人的跨境检索问题是公安的迫切需求。本文从两个方面分析研究了行人跨镜检索问题,首先在第三章,研究在在单个摄像头下行人跟踪问题,然后第四章研究了在跨镜头下研究了行人重识别问题。在基于卷积神经网络的行人跟踪方向,目标跟踪器不仅要关注于感兴趣的区域,更
合成孔径雷达（Synthetic Aperture Radar,SAR）利用雷达与目标之间的相对运动接收被检测区域的回波进行成像。相对于光学成像,SAR成像系统具有不受天气,时间等影响等特点,能够在恶劣条件下对目标进行探测。因此SAR图像不论在军事还是在民用上的实际应用,都具有很大的价值。可以被使用于自然灾害评估、地貌检测、舰船检测、动目标跟踪、战场监控等。所以在SAR图像自动识别方面有着广阔的研
随着射频无线通信逐渐系统集成化、尺寸小型化、功能多样化,导致射频电路的结构复杂和工作频率升高。由于传统模型是基于Maxwell方程的全波分析法进行建模,电路模型消耗的计算资源增多,计算速度也明显变慢,使得设计人员对电路的仿真分析效率变低。因此,传统的射频电路建模分析方法已经逐渐无法满足电路高效快速的仿真分析设计需求。为了适应人们对高性能的射频电路模型日益迫切需求,基于人工神经网络建模方法逐渐受到人
稀疏码多分址（SCMA）技术能够提高频谱利用率,是5G无线通信中多址接入方案的重要候选者。信道估计是SCMA通信的关键过程,其精度和复杂度对系统有很大影响,但是经典的信道估计算法存在计算量大、性能差等问题,导致这些算法在SCMA的应用有局限性,所以研究适用于SCMA系统的信道估计算法有重要意义。而深度学习具有适应性强、高速并行等优点,深度学习与无线通信结合是目前信号处理领域的热点,并取得瞩目的效果