自动驾驶中转向角的安全性验证

来源 :大连理工大学 | 被引量 : 0次 | 上传用户:JunKao
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
深度学习技术的快速发展使得DNN驱动的自动驾驶技术的研究和部署有了质的突破。然而,虽然自动驾驶汽车已在无人操作的情况下路测行驶数百亿公里,其自动驾驶行为的安全性并不能得到保证——转向角度、安全距离、加速度及制动等因素的微小偏差都可能对安全操纵造成难以预计的结果。因此,自动驾驶汽车的安全性验证技术逐渐成为当前的研究热点和难点。本文以摄像头传感器采集的图像数据作为输入,以正确的转向角度作为输出,研究DNN驱动的自动驾驶汽车的转向角安全性验证问题。目前具有代表性的DNN安全性验证的方法主要有DeepTest、DLV和SDLV。DeepTest通过多种图像变换自动合成测试用例,进而基于测试用例自动检测DNN驱动车辆做出的可能导致致命碰撞的错误行为。但该框架受到图像变换种类局限性的约束,无法模拟现实世界所有种类的驾驶场景。DLV是一种图像分类神经网络安全性验证的自动验证框架,该框架基于可满足性模理论,通过神经网络逐层扰动分析,完成与图像操作有关的图像分类决策的安全性验证工作。由于自动驾驶系统正确的转向命令不唯一,因此DLV算法无法直接用于自动驾驶系统转向角度的安全性验证。SDLV是一种用于自动驾驶汽车转向角安全性验证的自动验证技术。该技术利用神经元覆盖率和松弛关系对DLV进行扩展,解决预测行为的判断问题,从而实现转向角安全性验证工作。本文新提出的CSDLV验证框架针对SDLV框架进行了进一步的优化和改进。一方面,安全性验证是通过查找对抗性错误分类来实现的,因此为进一步提高查找到对抗性实例的成功率,本文重新定义变质关系中的神经元覆盖率,引入主功能区神经元覆盖率和强神经元覆盖率对DLV框架进行扩展。另一方面,SDLV查找到的对抗性实例中存在假阳性样本,为降低对抗性错误分类中的假阳性比例,本文采用松弛关系和过滤准则相结合的方案,对对抗性实例进行进一步筛选。本文在NVIDIA的端到端自动驾驶系统上对提出的自动验证框架进行了评估,使用的数据集是在美国加州和圣佩德罗附近收集到的包含标有转向角度的汽车仪表盘摄像机记录的图像数据集合。最终的实验结果表明,该自动验证框架能够成功地找到对抗性错误分类,同时与SDLV相比,在目前最佳参数配置下,CSDLV框架查找到对抗性实例的成功率由71.8%提高到79.6%,实验结果中假阳性样本所占的比例由5.014%降至3.517%。
其他文献
随着数字化时代的进步,基于云计算的机器学习预测也变得越来越广泛,然而传统的机器学习算法需要访问原始数据,这给用户数据带来了潜在的安全风险,尤其是一些隐私数据,比如医疗记录、财务数据等其他进入第三方渠道的信息。为了保护隐私数据不被泄露,实现安全的机器学习预测,可以在预测前对原始数据进行加密处理。同态加密技术可以对加密后的隐私数据做计算,这种隐私保护的方法使得安全预测成为可能。然而由于加密方案的巨大开
在现代国防的防空作战体系中,战场局势复杂且瞬息万变,使用AI进行动态辅助决策成为了一种迫切的需求。传统的依靠专家规则的AI模型过分依赖规则和专家的知识,而且不够灵活。基于深度强化学习的AI模型可以通过模拟或者真实的战场数据学习,使得决策更加灵活可靠。游戏环境一直都被认为是AI研究最理想的实验环境之一,在模拟仿真上的效果也很好。经过调研发现塔防游戏在游戏目标和操作上和防空作战有着一定的相似性。因此可
轮式移动机械臂由轮式移动平台和机械臂组合而成,由于其可以在空间内自由移动,故具有工作空间大、应用场景丰富、环境适应性强等优点。将轮式移动机械臂引入到智能工厂中,控制其按照参考轨迹进行加工作业,不仅可以代替传统固定式机械臂,还能提高加工效率,创新加工模式。为解决轮式移动机械臂结构复杂和多变量等问题,本文对轮式移动机械臂的加工作业过程进行划分,建立相应的数学模型和控制方法,以保证轮式移动机械臂在智能工
随着现代化信息技术的不断提高,互联网、物联网、5G等应用被广泛普及,海量数据是一种客观的存在,它们发挥着越来越重要的作用。时序数据为海量数据中的一种重要的结构化形式数据,如何高效的对各类时序数据进行异常检测是一个重要的研究课题,其旨在能够准确地从海量数据中识别出异常数据,为操作人员提供所监控设备各个部件的健康情况。本文借助深度学习强大的学习能力,对时序数据异常检测任务进行了深入的研究。针对时序数据
近年来,随着科技的进步,无人机机型向着小型化、低成本的方向不断发展。凭借着易部署、可控制、移动性的优点,无人机尤其是可悬停的旋翼无人机被大量应用在民用和商用领域,比如目标跟踪与检测、物流、辅助通信等等。其中,无人机辅助无线通信是目前的研究热点。在无人机辅助无线通信中,无人机可以通过安装小型的通信设备,为地面用户提供通信服务、作为中继节点为距离较远的收发设备建立连接、或作为移动汇聚节点采集地面无线传
近年来,随着各种人工智能(AI)应用不断地融入现实生活中并受到了日益广泛的关注,由深度神经网络(DNN)驱动的AI智能应用已经成功应用于许多现实领域。本文所研究是由DNN驱动的人工智能应用推理请求在5G移动边缘云(MEC)中的任务卸载策略问题,目的是在满足应用程序严格的延迟要求的前提下,尽可能多的处理DNN推理请求,以提高移动设备、基站和边缘服务器的能源效率。随着各种AI智能应用对精度、速度和能耗
自2007年发布以来,Android操作系统逐渐在智能终端的操作系统领域占据领先地位。官方平台和许多第三方市场都允许用户轻易地查找,下载以及使用大量的第三方应用程序,具有较好的用户体验。但与此同时,Android平台逐渐变成了恶意软件的主要攻击目标,恶意软件广泛存在各大应用市场,对用户的使用安全造成威胁。因此,高效地提高恶意软件的检测效率,提升模型鲁棒性,对其在现实背景下的实用性和维护Androi
作为水下计算机视觉的基础任务,精准的深度估计能够提升水下机器人的测距、定位以及目标抓取等任务的水平;高质量的颜色校正对于水下目标检测、识别等图像处理技术的发展具有重要意义。水下深度估计是对水下RGB图像中每一个像素相对拍摄源的距离进行估计;颜色校正解决图像中由水体环境导致的光衰减和后向散射等问题。但是,相较于陆上环境所具备的数据量大、技术研发成熟等优势,光照不均和能见度低等恶劣环境导致水下成像存在
近些年来,基于深度学习的显著性目标检测算法被广泛提出,并且相较于传统算法获得了极为可观的性能提升。但是,基于深度学习的像素级图像分割任务往往需要精细的人工标注数据。为了减少对人工标注数据的依赖,当前的研究者们推动了一系列基于无监督学习和弱监督学习的显著性目标检测算法的产生。然而这些方法与目前基于全监督学习的方法在性能上依然存在较大的差距。在现实场景应用下,除了绝大多数的弱标签数据之外,还存在少部分
最优传输的理论和方法日益渗透进深度学习等许多工程领域,其Figalli正则性定理揭示了生成模型存在模式崩溃和模式混合的本质原因是传输映射在奇异集处不连续。此外根据对抗样本生成机理的流形假说,奇异集中存在对抗样本,因此计算和研究最优传输映射奇异集变得更加重要。本文主要研究两个问题:一是计算最优传输映射的奇异集,二是利用奇异集生成对抗样本。为了解决上述问题,本文首先基于几何变分方法设计并实现最优传输映