基于3D激光点云与2D图像融合的目标检测算法研究

来源 :哈尔滨工业大学 | 被引量 : 0次 | 上传用户:jinlu2010
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
激光雷达的点云数据与相机的图像数据是自动驾驶场景中的主要数据,是自动驾驶感知任务的重要组成部分,将这些数据进行有效的处理与利用对感知算法的准确性与安全性有重要意义。在三维目标检测任务中,以纯激光点云作为输入数据的算法得到了较好的发展。为了弥补点云稀疏性的短板,二维图像数据被引入三维目标检测任务中与激光点云融合。融合方法受到了越来越多的关注,其研究重点在于如何将点云数据与图像数据进行有效的融合。本文对目前三维目标检测算法进行总结与分析,并在此基础上,重点对基于点云与图像融合的三维目标检测算法进行研究,设计了一种新的三维目标检测融合算法。首先,本文总结了目前主流的三维目标检测算法,重点对基于激光点云与图像融合的目标检测算法进行研究,分析不同融合算法的优缺点,并结合目前点云与图像融合的难点问题,确定了本文研究思路。之后,本文对KITTI数据集中点云数据进行了前视视角的裁剪与体素化编码的预处理,通过稀疏卷积网络提取点云体素特征;对KITTI数据集中的图像数据进行了归一化的预处理,通过卷积神经网络与特征金字塔结构提取二维图像信息,为后续特征融合奠定基础。最后通过评价指标AP(Average Precision)来评估融合算法的有效性与精度。其次,在获取到点云与图像的特征基础上,本文对现有的特征融合方法进行了深入研究,提出了基于鸟瞰图视角(Bird’s eye view,BEV)下的点云与图像特征融合算法。对于上述的点云体素特征,本文对其进行高度方向上的堆叠与整合,形成点云BEV特征;对于上述的二维图像特征,提出了基于深度信息的图像鸟瞰图特征构建算法,在图像BEV生成过程中引入深度信息,解决了因一条射线上的不同体素中心映射到同一像素而导致的图像BEV特征不准确的问题,生成了更加符合真实场景目标位置分布情况的图像BEV特征;本文抓住不同模态之间的坐标关联信息,采用基于全局注意力的特征融合方法,在鸟瞰图这一全局视角下将点云特征与图像特征进行融合。本文在KITTI数据集上进行了实验,验证了算法的有效性。再次,在上述BEV视角下融合的基础上设计了双阶段的点云与图像特征融合网络,在区域推荐阶段与优化微调阶段都进行融合,解决了点云与图像数据之间融合不充分的问题。为了解决因数据表征不同与特征提取流程独立导致的点云特征与图像特征存在差异的问题,提出了基于局部注意力的微调阶段融合算法,使得网络自适应的给点云与图像特征赋予权重,在网格层面上进行有效融合。本文在KITTI数据集上进行实验,证明了双阶段融合算法的有效性。然后,对上述所设计的双阶段融合网络在数据增强和损失函数上优化设计,提高网络的训练效率。针对点云与图像数据增强之间的差异破坏坐标对应关系的问题,总结了一个反数据增强流方法,保持了数据增强后点云与图像数据的正确映射关系;设计了一个多模态数据复制粘贴方法,根据目标的深度顺序,对不同模态的数据进行同时的真值样本的扩充,缓解了正负样本失衡的问题,使网络训练更加高效;设计了辅助损失训练策略,对融合之前的点云与图像特征添加辅助头,以更加直接的方式对不同模态的特征进行优化,提高不同模态特征的训练效率。最后,在KITTI数据集上进行了实验。对本文所提出与设计的方法进行消融实验,以减法和加法两个实验思路,充分证明了方法的有效性;进行了结果可视化对比,以更加直观的方式证明了本文所设计的融合算法的检测优势;将本文所设计融合算法与多种目前已开源的先进融合算法进行横向对比,对比结果证明了本文所提算法对中等和困难等级目标的检测结果都达到目前最好的水平。
其他文献
近年来,为完成日益复杂的航天任务,单个航天器所携带的有效载荷数量不断增加,因此需要单个航天器具有同时完成多项任务的能力,例如航天器在观测特定目标的同时需要与另一个航天器进行通信。为了能够实现这一目标,星载转台是解决该问题的最佳方案。此外航天器所携带的液体燃料、挠性帆板以及空间中的干扰等都会对航天器的实际姿态产生影响。基于此,本文将带有二维转台的航天器作为研究对象,研究其轨控段与在轨多目标跟踪时的姿
学位
在石油开采的过程中,杆管柱磨损的现象比较普遍,容易造成油管磨漏或者杆柱断脱的问题,降低油田产量,造成井下安全事故,杆管柱后屈曲磨损是井下最为严重的磨损现象,会比寻常磨损程度更为剧烈,因此,对杆管柱的后屈曲磨损研究尤为重要。本文选取井下垂直段细长杆管柱作为研究对象,采用三维梁单元建立井筒内杆管柱屈曲有限元模型,基于慢动力法对杆管柱屈曲构型进行计算,得到屈曲梁发生正弦与螺旋屈曲的构型,为实现屈曲杆管柱
学位
以石油为原料的各类产品已涵盖人类衣食住行各方面,对石油的勘探、开采、运输和炼制等工作一定时期内仍会构成世界各国经济发展的重要支撑。但原油及其下游产品不仅易燃易爆,且容易引起水源污染,故对含油废液的处理方法、装置及技术的发展可以极大地促进国家经济和环境的可持续发展。针对含油废液处理问题,本文拟利用3D打印技术的固有优势弥补传统制备技术在超疏水超亲油膜材料制造中的缺陷,从而实现对含油废液低耗费高效率的
学位
危害公共卫生罪的保护法益是公众的生命健康,而不是公共卫生管理秩序(制度),明确其保护法益是进行刑法规制的前提。《刑法修正案(十一)》修改妨害传染病防治罪,扩大该罪的传染病范围,增设行为类型,但是对其构成要件缺乏类型性描述;新增基因科技犯罪,其中非法采集人类遗传资源、走私人类遗传资源材料罪的规制范围符合刑法的补充性原理,非法植入基因编辑、克隆胚胎罪的构成要件缺乏类型性,同妨害传染病防治罪一样容易形成
期刊
随着航天事业的蓬勃发展,任务执行过程中对于航天器姿态控制提出了更高的要求,注重于鲁棒性、敏捷性与精确性的提升。航天器姿态控制中主要涉及的状态向量为航天器姿态角和姿态角速度,分别可由红外地平仪、星敏感器等姿态测量仪及速率陀螺测得。因为速率陀螺常处于高速旋转状态并且占用一定载荷,故本文针对未搭载速率陀螺或者在轨运行过程中速率陀螺损坏的无角速度测量的微小卫星,进行有限时间姿态控制研究。在完成无角速度测量
学位
<正> 笔者以自拟板羌柴芩汤清解祛邪,治疗外感发热,多收显效。现介绍如下: 方药组成:板蓝根30—60克,羌活10—12克,柴胡、黄芩各15—30克。水煎服,每日一剂,日分三次温服。发热重者,可日服2剂。加减:咽喉肿痛者,加桔梗、山豆根各
期刊
<正> 本人自1982年以来,以玉屏风散加味治疗小儿夏季热,效果比较满意。现仅就临床资料比较完整的25例简介如下。临床资料 25例中,男性11例,女性14例。年龄1~4岁14例,1岁以下11例。发热时间,最长80天,最短15天;体温最低38.5℃,最高41℃。25例均有发热,饮多,尿多,无汗等症,并排除其它疾病。基本方:黄芪8克,白术5克,防风4克,青蒿8克,银花9克,竹叶4克,鲜荷叶10克,鳖甲
期刊
对企业产权进行法律保护,刑法须有所作为。在《刑法修正案(十一)》中,有关企业产权保护的规定有了新的发展,主要体现为:对民营企业产权的刑法保护进一步加强,对企业知识产权的刑法保护进一步关注,对企业犯罪所涉高频罪名的刑法条款加以修正。此次修正案所反映的立法逻辑为:民营企业产权刑法上的平等保护是财产权范围内的等同保护,而不是身份地位意义上的无差别对待;刑事立法对民营企业产权的平等保护需要借助司法适用加以
期刊
报纸
随着汽车的普及,交通安全问题逐年凸显,人们对汽车主动安全技术也越发重视。在汽车智能化背景下,紧急避障系统便应运而生。目前,紧急避障策略以制动避障和转向避障为主。制动避障策略以充分利用路面附着为目标,控制轮胎达到最佳滑移率以提高避障性能。转向避障策略则通过控制轮胎转角控制汽车的侧向运动,它能够应对更小碰撞时间的避障场景。然而两种避障策略均存在一定的局限性:制动避障受限于最小制动距离,转向避障对车速削
学位