【摘 要】
：
基于深度神经网络（Deep Neural Network,DNN）实现的自动驾驶系统图像识别模型中,主要通过部署摄像头和激光雷达等设备收集驾驶场景信息。但现实驾驶场景广泛且复杂,手动收集训练样本时很可能会忽略大部分极端情况下的图像样本,这会导致模型无法学习到极端驾驶环境下的决策信息,从而导致严重的交通事故。除此之外,已有研究表明DNN很容易受到对抗样本的攻击,恶意攻击者通过对输入样本添加人眼无法识
论文部分内容阅读
基于深度神经网络（Deep Neural Network,DNN）实现的自动驾驶系统图像识别模型中,主要通过部署摄像头和激光雷达等设备收集驾驶场景信息。但现实驾驶场景广泛且复杂,手动收集训练样本时很可能会忽略大部分极端情况下的图像样本,这会导致模型无法学习到极端驾驶环境下的决策信息,从而导致严重的交通事故。除此之外,已有研究表明DNN很容易受到对抗样本的攻击,恶意攻击者通过对输入样本添加人眼无法识别的微小扰动生成对抗样本,误导模型作出完全错误的预测。为了提高自动驾驶系统图像识别模型的鲁棒性,本文从极端驾驶环境和对抗防御两方面出发,在交通标志分类模型和转向角预测模型上展开研究。主要研究内容如下:（1）针对自动驾驶领域大规模高质量的训练样本严重稀缺,且现有的图像样本生成方法常常存在效率低的问题,提出基于数据增强的模型鲁棒性优化方法。首先根据样本的图像斑点信息和预测误差筛选出待优化的种子样本;然后以最大化种子样本的预测误差和神经元覆盖率为目标构建联合优化问题,并设置现实约束条件;最后采用梯度上升法求解优化问题,得到高神经元覆盖率且容易被预测错误的图像样本,将其加入训练样本集重训练模型。在6个交通标志分类模型和3个转向角预测模型上进行实验,实验结果表明:与白盒测试框架Deep Xplore相比,该方法能够节省89.81%的时间消耗,且生成的图像样本神经元覆盖率提升了1.87%,攻击成功率提高了32%,用于数据增强时模型的预测准确率提高3%左右。该方法提升了自动驾驶系统图像识别模型在极端驾驶环境下的预测准确率,进而提高了其鲁棒性。（2）针对对抗样本具有可转移性,且对抗训练只能防御特定模型和对抗样本攻击的问题,提出了一种基于自监督的对抗扰动去除方法。首先构建对抗扰动净化模型,它包括特征提取器、净化器和判别器,特征提取器以自监督的方式最大化图像样本的特征失真生成对抗样本,净化器负责去除对抗样本中的噪声,判别器负责对净化后的样本进行识别;然后,设计了一个包括特征,像素和对抗的联合损失函数;最后采用联合损失函数对对抗扰动净化模型进行训练。在3个交通标志分类模型和3个自动驾驶转向角预测模型上进行实验,实验结果表明:该方法可以去除多种对抗样本中的扰动,净化后的样本预测准确率均高于90%,且不会降低模型对干净样本的预测能力。在多种白盒攻击场景中,与对抗训练、特征压缩和蒸馏防御相比,该方法的防御效果最为显著。（3）开发了一个自动驾驶鲁棒性优化系统,主要包括资料下载、测试样本、对抗样本和鲁棒性优化四个模块,鲁棒性优化模块可以通过数据增强和对抗防御两种方式提升自动驾驶系统图像识别模型在极端驾驶环境和对抗攻击下的鲁棒性。
其他文献
情感分类是自然语言处理领域的重要研究方向。早期的研究集中在词典和传统机器学习方法,这两种方法的性能分别受限于词典和特征工程的设计困难。因此,当前多数研究采用深度学习方法。然而,此类方法的准确度依赖于大量高质量的人工标注数据,数据标注工程代价昂贵。随着互联网的快速发展,网络用户产生了大量带标注的文本,这些易于获取的资源可以充当弱标注数据训练情感分类器。然而,弱标注数据中含有用户标注与文本真实情感倾向
图像分割是图像识别、分析与理解的重要预处理步骤。由于各种主客观因素的影响,数字图像通常具有一定的模糊性。在众多结合不确定性理论的图像分割算法中,基于证据理论的证据C-均值（Evidential C-Means,ECM）聚类算法,通过基本信任分配函数来刻画像素对各类别的信任度。在信任划分中,像素不仅可以属于单一类或噪声类,还可以属于由单一类组成的复合类,这种额外附加的灵活性有利于更合理地表达与处理图
深度神经网络作为当前人工智能兴起的核心技术,解决了使用传统机器学习技术多次尝试却难以解决的复杂学习问题,并在图像分类任务上拥有了超越人类的表现。然而深度神经网络的结构具有非线性,会诱导基于深度神经网络模型的系统对某些样本出现误判,这种样本称为对抗样本,通常在正常样本上添加人类肉眼难以分辨的对抗性扰动构成,其存在能够严重地破坏深度学习智能系统的鲁棒性。因此,如何有效防御对抗样本的攻击是当前深度学习广
无线传感器网络（Wireless Sensor Network,WSN）作为远程环境监测系统应用的关键技术,能够在有限的能源供应下提供高效的传感和通信服务。覆盖控制是保证高效通信和可靠数据传输的重要手段。鉴于复杂的物理环境限制了节点部署方式并阻碍了能量补充和恢复,我们的研究动机是在传感器节点重部署过程中修复覆盖孔,降低能耗,以实现对WSN覆盖范围的优化和增强。近年来,群智能算法的发展和成熟推动了其
认知反向散射是一种高频谱利用率、低功耗的通信技术。在认知反向散射网络中,反向散射设备（Backscatter Device,BD）利用主用户的射频信号实现能量供应与被动信息传输,为频谱与能量双重受限的物联网提供了一种高效的传输方案。本文研究认知反向散射网络公平性保障的资源优化方案,在不同场景下通过设计公平有效的资源分配方案保障BD信息传输的公平性,主要工作如下:1)考虑实际的非线性能量收集模型与动
在各种信息迅速传播的今天,图像作为一种常见的信息载体,凸显出了越来越重要的地位。图像质量的好坏直接决定了获取有用信息的多少,但是由于图像获取的环境和成像设备的限制,造成了图像的各种模糊和畸变问题。由于图像获取的环境是不可控因素,想要改变拍摄时图像的环境困难较大,较好的成像设备费用也比较高昂,而使用软件处理的超分辨率技术成本低廉,得到的效果较好,因此图像超分辨率重建技术得到了广泛的应用。决定超分辨率
随着现代工业向智能化方向的不断发展,工业设备对计算资源的需求变得更加紧迫。传统云计算因其架构原因无法满足工业场景对实时计算资源和数据安全保护的需求。作为继云计算之后的新型计算范式,边缘计算将服务器放置在靠近终端设备的网络边缘侧,能够通过计算任务卸载为工业设备提供低延迟和安全性强的计算服务。计算任务卸载策略会对工业计算任务的执行效果产生巨大影响,不合理的任务卸载无法提升工业互联网边缘计算的性能。与此
智能反射表面（Intelligent Reflective Surface,IRS）是未来第六代无线通信技术的新兴范式,其可改变无线通信传输环境的特性近两年得到广泛关注。IRS可有效提升空间调制系统的数据传输速率,而在数据交互量轰炸式增长的信息时代,人们也越来越关注通信安全,IRS使能物理层安全在节省能源消耗的同时能够辅助提高传输安全。本文研究IRS在单输入单输出（Single-Input Sin
近年来,随着监控视频技术的普及和发展,运动目标检测技术被广泛应用于工业生产、安防监控和交通管理等领域。然而,实际监控场景的多变性和复杂性给运动目标检测算法带来了诸多困难和挑战,如动态背景、相机抖动和阴影等因素会影响算法的准确性和鲁棒性。因此,研究如何设计实时性好、鲁棒性强的运动目标检测算法成为当前技术研究的重点。基于深度学习的实例分割方法展现出强大的鲁棒性,能够精确地对每个目标的轮廓进行分割,因此
极化合成孔径雷达（Polarimetric Synthetic Aperture Radar,Pol SAR）是一种强大的微波成像技术,可以提供全天候的地球表面的目标信息。与其他遥感影像相比,极化SAR图像能够以四种极化组合（HH、HV、VH和VV）发射和接收电磁波,从而提供更丰富的信息。由于这些特点,极化SAR技术在图像解译方面具有很高的实际应用价值,如图像分类、目标识别和检测任务,其中,极化S