深度学习中的不确定性研究及其在目标检测中的应用

来源 :武汉大学 | 被引量 : 0次 | 上传用户:leilei247472145
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
兴起于上世纪60年代的神经网络,在近十年开始大放异彩。作为复杂函数逼近器的深度神经网络,其有效性使我们在众多领域的基准上实现了突破。使用某种形式的深度学习模型被广泛运用于现实世界,例如人脸识别、语音助手和自动驾驶等。
  然而深度学习中的大多数模型都是确定性模型,其输出的预测缺乏不确定性度量,是一种过度自信的预测。这对于严肃领域中的决策却是十分致命的,轻则造成经济损失,重则危害生命。不确定性度量是信息论中的一个重要研究方向,它体现了预测的置信度,了解预测中的不确定性度量能够帮助我们做出更好的决策。本文的主要研究内容如下:
  首先对深度学习的理论基础进行了介绍,分析了深度学习中两类基本任务:分类任务以及回归任务的一般范式。针对这两类任务,介绍常用的深度学习技巧:包括正则化方法、梯度下降优化方法、权重初始化等。
  其次,研究分析了深度学习中其预测的不确定性的两个主要来源:偶然不确定性和认知不确定性。详细阐述了这两种不确定性产生的原因和相关形式,并分别针对分类任务和回归任务,阐述了度量这两种不确定性的动机和方法。
  再次,针对图像分类领域中的传统卷积网络无法进行不确定性度量的问题,提出了贝叶斯卷积神经网络,对网络的权重引入高斯分布,使其权重不再是单一的点估计,从而使得预测能够进行不确定性度量。通过在基准的分类数据集进行实验,证明了贝叶斯卷积网络能够实现与传统卷积神经网络的准确率相当的同时,还能对其预测进行不确定性度量,证明所提算法的可行性和有效性。
  最后,针对自动驾驶领域对于目标检测的高要求,即检测高精度的同时保持高速度,引入不确定性度量改进YOLOv3算法,提出了高斯建模YOLOv3。该算法对YOLOv3中的预测目标框坐标进行高斯建模,重构损失函数,从而获得了预测目标框坐标定位中的不确定性度量。接着,利用该坐标定位的不确定性度量信息,改进检测的评判标准,从而在几乎不损失YOLOv3的检测速度的同时,提高了YOLOv3的检测精度。实验表明,所提算法高斯建模YOLOv3的平均精度相比YOLOv3,在KITTI数据集上提高了3.07个百分点,在BDD数据集上提高了3.4个百分点,其帧率达到43.07FPS,仅比YOLOv3低0.5FPS,能够达到实时检测的标准。
其他文献
【摘要】 “孝”是中华民族传统道德的根本。孝敬父母、尊敬长辈,是做人的本分,也是各种品德形成的前提。几千年来,孝道文化已经深深融入中华民族的血脉之中。作为学校教育的重要组成部分,尽孝与感恩教育既是重要内容,也是促进学生全面进步的方法和手段,尤其在转化后进生方面有很主要的价值和意义。   【关键词】 尽孝 感恩 后进生 转化   【中图分类号】 G635.5 【文献标识码】
期刊
【摘要】 随着我国教育水平的不断提升,在现在的教学当中,教师不仅重视着学生的文化课程的学习,对于学生综合素质的提升也具有了更多的重视。尤其是在班主任教师的教学中,需要将德育教育与日常教学进行结合,激励的策略能夠对于学生的行为进行导向性的指引,并且使得学生逐渐的培养出相关的行为习惯。因此,激励策略在小学阶段的教学中具有非常重要的作用,基于此,本文对于小学班主任的德育教育中激励策略的有效实施展开探讨。
期刊
【摘要】 随着新课改的推动,德育教育成为当前小学素质教育的重要组成部分,影响学生的综合素质发展。小学班主任的角色完善了学生的道德品格,也保证了教育的具体实效性,德育教育是小学班主任的重要责任。为保证德育教育工作的全面实施,小学班主任应该着重加强与学生的沟通互动,掌握小学生性格发展特点,采取针对性、多样化的激励策略,从而提高小学生的积极性,从小培养良好的学习习惯,为以后的学习生活铺垫。   【关键词
期刊
【摘要】 在班级管理中,学困生始终是班级管理工作中的重点。学困生的转化对提升班级整体水平,提升班级管理有序性和有效性具有重要意义。本文结合班主任管理经验,论述了在班级管理工作中应当如何提升学困生的学习兴趣,以促进班级管理的整体效果。   【关键词】 班级管理 学生兴趣 学困生   【中图分类号】 G625.1 【文献标识码】 A 【文章编号】 1992-77
期刊
【摘要】 教育成为近年来社会关注的重要问题,国家也大力推行素质教育措施,在十八大会议上还提出了立德树人的教育任务,并着重强调了教育应该培养怎样的人,怎么去培养。作为初中班主任要时刻以立德树人为教学目的,为社会发展输送人才,本文重在对立德树人背景下初中班主任育人方式的途径进行分析。   【关键词】 立德树人 初中班主任 育人方式 途径   【中图分类号】 G635.1 【文獻标识
期刊
【摘要】 为了提高学生自主管理的能力,更好地进行班级管理,采用小组自主管理的模式,培养学生的团队合作意识和能力。   【关键词】 小组 团队 评比 荣誉 能力   【中图分类号】 G625.1 【文献标识码】 A 【文章编号】 1992-7711(2019)04-284-01  教育要教会人去思考问题,学会解决问题的方法。小学生活泼好动,精力充沛,好胜心强,
期刊
[摘 要]初中阶段是人这一生中生理和心理成长变化最大,价值观和人生观初步形成的阶段。在这个阶段给初中生提供丰富的精神食粮,能极大促其身心健康发展。语文学科在塑造人的高尚灵魂方面具有无可比拟的作用。初中语文教材中有很多榜样人物,教师可通过品赏阅读教学引导学生分析这些人物的形象,挖掘和感受这些人物人性中最闪光的一面,以有效实现“立德树人”的教育目标。  [关键词]品赏阅读教学;人物形象分析;策略  [
期刊
[摘 要]在初中语文教学中,教师要引导学生积极开展思辨性阅读,以提升学生的阅读效率。在引导学生阅读的过程中,教师要设置澄清性问题,促使学生深入体会作品的语言特点和结构特点;要设计探究性问题,引导学生在了解作品写作背景和搜集相关资料的基础上分析作品的价值;要提出反思性问题,引导学生在超越情感、摆脱惯性的基础上丰富理解认知。  [关键词]思辨性阅读;整本书阅读;初中语文  [中图分类号] G633.
期刊
[摘 要]英语课程改革的重点就是要改变英语课程过分重视语法和词汇知识的讲解与传授、忽视对学生实际语言运用能力的培养的倾向。文章以牛津英语8A Unit 8 “Natural Disasters” Grammar的教学为例,探讨如何借助适切语境,巧妙适当铺垫,提升学生实际语言运用能力。  [关键词]思维品质;初中英语;语法教学  [中图分类号] G633.41 [文献标识码] A [
期刊
[摘 要]在开展中华优秀传统文化教育的过程中,对学生进行中华文化“四自”教育,即自豪、自重、自知、自信教育,能够开辟传统文化教育的新天地,引导学生深刻感受中华文化的独特魅力。文章以《延续文化血脉》的教学为例展开论述。  [关键词]初中道德与法治;中华文化;自豪教育;自重教育;自知教育;自信教育  [中图分类号] G633.2 [文献标识码] A [文章编号] 1674-6058(
期刊