分层架构下基于深度强化学习的无人驾驶智能决策控制研究

来源 :北京工业大学 | 被引量 : 0次 | 上传用户:hofox
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
无人车的决策控制是无人驾驶研究的关键问题。随着人工智能技术的发展,在决策控制中引入基于学习的人工智能方法成为国内外研究的热点。目前基于学习方法的无人车决策控制多采用端到端的模型结构,其决策过程缺乏一定的可解释性,且模型多针对于单一的驾驶行为。深度学习方法在训练过程中依赖于大量标注数据,而深度强化学习方法可以通过与环境的交互进行学习,更加适合智能决策控制问题,但现有的无人车决策控制模型与深度强化学习方法的结合较少。因此,本文将基于深度强化学习算法,提出无人车决策控制分层建模方案,以解决无人车面向多驾驶行为的决策控制问题。具体研究内容如下:第一,分层架构下基于深度强化学习方法的无人车决策控制模型研究。首先对无人车在驾驶行为执行过程中驾驶状态的变化进行研究,提出“动作决策-车辆控制”的分层决策控制结构框架,并对模型的整体决策流程进行分析;其次基于无人车在决策时对环境等因素的考虑来抽象出两个子层模型,并为子层模型提出符合深度强化学习算法决策过程的通用性端到端模型框架;最终对模型面向多驾驶行为的可扩展性进行分析。第二,基于深度确定性策略梯度算法的车辆控制模型研究。首先基于DDPG(Deep Deterministic Policy Gradient)算法对车辆控制层进行建模;其次通过分析驾驶行为执行过程中车辆状态明显发生改变的关键动作点,为车辆控制模型设计基于目标驾驶状态的奖励函数作为模型优化目标;最终提出条件控制结构的车辆控制网络模型。第三,基于深度Q网络算法的动作决策模型研究。首先基于DQN(Deep Q-learning Network)算法对动作决策模型进行建模;其次面向变道、超车和跟车三种典型的驾驶行为,在考虑安全协同驾驶的前提下分别设计符合其目标驾驶行为特性的奖励函数;最终提出动作决策的网络模型。最后,无人车决策控制模型的仿真训练与验证分析。首先对TORCS(The Open Racing Car Simulator)仿真平台进行修改,作为本文的无人驾驶交互环境;其次设计车辆控制模型与动作决策模型的总体训练流程,并结合函数曲线、概率分布等对无人车的随机探索过程进行优化;最终在包含其他交通参与者的动态场景下,对本文模型面向多驾驶行为的决策控制能力进行验证和分析。
其他文献
一直以来,在我国的教育领域,幼儿教育都会被看作是小学教育的起始阶段,很多幼儿教师会在这一思想的带动下,逐渐偏离了教育重点,甚至过多的为幼儿介绍小学阶段才会学习到的知识,让幼儿产生了较大的压力,也阻碍了幼儿兴趣的形成。客观来说,幼儿阶段的教育工作具有较高的启蒙性,教师虽然可以尝试性涉及一些小学阶段的知识,但应该注意适度。文章将立足于幼儿园数学教育,对如何加强数学教育的生活化、游戏化展开分析。
目的探究骨创伤患者护理期间采用心理护理联合音乐疗法的临床护理价值。方法以120例(2019年12月~2020年12月)骨创伤患者开展此项研究,均分两组,对照组采用心理护理干预,观察组采用心理护理联合音乐疗法,就患者护理前后心理情绪评分、疼痛评分、睡眠质量评分、生活质量评分、护理效果及康复效果等指标进行评价,确定心理护理联合音乐疗法的护理实践价值。结果观察组患者心理负性情绪评分、疼痛评分均较低,睡眠
《颜氏家训》是南北朝著名学者颜之推最有影响力的作品,通过此作,颜之推希望能将其处于乱世中的生存之道传授于颜氏子孙后代,以避祸求安。节俭不仅是《颜氏家训》中治家处事的重要思想,也是中华民族的传统美德,对当代社会也有现实而重要的意义。
现代化工业进程中,需要科学技术大力支持,企业核心竞争力是技术创新,在企业发展中需不断更新技术,从而促进工业体系发展,提升企业的市场竞争力。电气技术对电气控制系统发展具有重要意义,电子技术可促进电气控制技术更新,从而适应现代化工业发展要求。本文针对电力电子技术的发展现状及电子技术在电气控制中的实际应用展开分析,为电子技术发展提供帮助。
<正>本文结合X公司并购案例,以并购方的角度,着重对并购方在并购过程中商誉减值和涉税的财务风险进行研究分析,并对这两类财务风险可实施的应对策略提出了建议。一、引言公司发展到一定阶段,内部发展已难以满足公司对收入规模、盈利能力以及技术发展的需要,通过资本运作手段并购优质公司是很多公司突破发展瓶颈、克服信息壁垒、寻求协同效应的重要手段。在资本市场,为取得优质标的公司的控制权,并购方往往需要溢价支付股权
期刊
电子技术向来对电气控制有着至关重要的作用,目前电子技术在电气工程中的应用非常普遍,电力系统的发电、变电、输电、配电都离不开电子技术在其中所发挥的重要作用。因此,对电子技术在电气应用中的分析研究与创新更显得尤为重要。本文前半部分主要介绍分析了电子技术的原理及其特点,还有电子技术与电气控制的关系;后半部分主要介绍电子技术在电气控制中的一些常见应用及其未来的发展研究方向。
<正>一、要言不烦,简洁入课师:同学们,今天我们一起学习《赵州桥》。这节课,咱们学习的内容是两个字“句子”。(出示)主要学习内容:句子。二、整体感知,认字识词师:我们首先来熟悉课文内容,请同学们各自读一读课文。(生自由读)师:老师朗读一遍课文,同学们注意听。(范读)我们一起来认字识词。这种方法比较特别,
期刊
企业财务数字化转型是大势所趋,也是数字化时代的发展产物。随之而来的是企业财务会计的转型发展,传统的核算职能已经不能满足时代需求,需要向管理会计转变。本文对数字化时代财务会计面临的新变化和转型发展中遇到的难题进行了分析,得出数字化时代财务会计转型发展策略。