基于深度强化学习的自主航行决策技术研究

来源 :中国舰船研究院 | 被引量 : 0次 | 上传用户:yaohaochang
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着航运业的蓬勃发展,船舶数量和吨位大幅度增加,船舶种类日趋多样化,通航密度进一步提高,操纵难度进一步加大。近年来,无人驾驶技术日趋成熟,经济、安全、可靠、环保、高效的智能船舶得到广泛的研究,也受到航运领域的关注和青睐。作为核心的自主航行决策系统,其有效性为船舶安全可靠的航行提供支持。本文通过基础技术研究、航行决策算法研究以及决策仿真系统搭建三部分内容,在融合前人相关研究成果的基础上,提出了基于改进深度Q网络的深度强化学习自主航行决策算法,并验证了决策算法的有效性与可行性,拓展了对智能船舶自主航行决策技术研究的深度与广度。一、将基础技术与决策算法融合。本文将包含会遇态势划分、船舶领域模型以及碰撞危险度评价在内的多项技术与航行决策算法融合,使得系统清晰准确重构两船所处的状态,准确划定两船航行安全区域,对碰撞危险进行量化,合理的判断是否需要避碰以及何时进行避碰。多项技术在整个避碰过程对应的阶段发挥作用,为决策算法的实现提供基础,从而构建安全有效的自主航行决策系统。二、提出基于改进深度Q网络的自主航行决策算法。本文从全局角度设计合理的状态空间、动作空间,并从航线跟随与避碰行动两方面设计不同的奖励函数,以约束算法在不同情况下能够满足既定规则。同时,采用改进ε贪婪策略搜索算法对传统DQN算法进行改进,提出基于改进深度Q网络的自主航行决策算法。三、模块化自主航行决策仿真系统搭建。本文通过模块化编程方式搭建自主航行决策仿真系统进行相关算法的验证,整个仿真系统通过信息整合与处理模块连接航行信息、基础运算、决策算法、航行信息仿真、数据可视等五大模块实现数据互通。本文依据两船会遇的不同场景在决策仿真系统进行试验,进一步验证决策算法的有效性与可行性,并与传统DQN算法和Q-Learning算法仿真结果进行对比。根据仿真结果可知,本文提出的算法安全、有效且具有应用价值。本文针对开阔水域智能船舶自主航行决策关键技术进行了较为深入的研究,融合会遇态势划分、船舶领域模型以及碰撞危险度评价等技术,提出了基于改进深度Q网络的自主航行决策算法,为自主航行决策系统的实船应用提供了有力的技术支撑。
其他文献
通过弹道枪开展12.7 mm穿燃弹以不同速度垂直侵彻603装甲钢半无限厚靶板的弹道试验,并结合数值仿真计算对侵彻深度、侵彻阻力等进行研究。结果表明:侵彻过程中弹芯为主要侵彻元,表现为刚性侵彻,背甲对侵彻深度的影响可忽略。不同着靶速度的弹芯侵彻阻力随位移的变化规律基本一致,可分为弹芯飞行摩擦阻力阶段、弹芯头部进入靶板阶段、弹芯头部完全进入靶板阶段。通过刚性弹侵彻半无限厚靶板,结合空腔膨胀理论模型对尖
期刊
学位
本研究运用CiteSpace软件对中国知网数据库1986年至今我国幼儿前书写研究的308篇文献进行综述研究,发现该领域研究从初步发现幼儿园开展书写教育活动重要性、区分“书写”与“前书写”差异、探究早期“读”与“写”能力关系开始,到逐步认识到幼儿前书写是幼小衔接的核心经验之一、探索培养幼儿前书写能力的策略。研究热点主要集中在:认识前书写是有别于书写的重要概念;提升书写能力是培养幼儿前书写能力的主要内
期刊
“整本书阅读”作为高中语文新课程标准第一个任务群受到广泛关注。整本书阅读旨在纠正碎片式阅读带来的弊端、增加学生的阅读量、拓展学生的阅读视野、培养学生良好的阅读习惯、提高学生的语文素养。本文以《红楼梦》为例,通过分析整本书阅读教学的意义和高中整本书阅读的现状,探讨高中语文整本书阅读教学的策略,以此帮助学生体会红楼梦的魅力,并为教师在实际教学中开展整本书阅读提供方向。
期刊
随着我国海上风电爆发式增长,海上风电已经出现离岸距离远、风场水域水深,以及风机大型化的特点。海上风电机组及其配套设施的重量和尺寸成倍数增长,海上风电建设和运营过程中需要的使用更加专业和先进的“运输船舶”、“施工船舶”和“运维船舶”。本文从海上风电将开始全面迎来10 MW及以上风机建设需要所涉及到的此三类型船舶特点入手,主要分析海上风电往深、远、海发展,机组大型化趋势下所需要配套船机资源的发展趋势和
期刊
<正>前书写的发展是幼儿发展的重要组成部分,大班幼儿对符号、文字有了更多的兴趣和敏感性,并具有一定的表达和书写探究经验。对即将进入小学的幼儿来说,良好前书写习惯的培养及前书写能力的提升十分必要。《3—6岁儿童学习与发展指南》和《幼儿园入学准备教育指导要点》等都对幼儿前书写能力提出了要求,指出“3—6岁幼儿应具有书面表达的愿望和初步技能”“保护幼儿的前书写兴趣、做好必要的前书写准备”。因此,针对大班
期刊
作为中国传统文化的重要组成部分的孝文化,渗透到中国社会生活的方方面面。孝文化内容包括养亲敬亲,传宗接代,惜身全体,扬名显亲等。孝文化通过规范个体行为,促进人际和谐,稳定家庭、强化忠君思想等方面的功能对封建社会的犯罪预防起到积极作用,但同时不可避免含有消极因素。孝文化中的合理内容,对今天的犯罪预防仍有借鉴意义。
期刊
整本书阅读是初中语文教学中的热门话题,也是拓展学生阅读储备、提升其阅读能力的重要载体,而在整本书阅读中融入项目化学习理念,有助于实现整本书阅读教学价值的最大化。为此,教师可通过研读阅读材料、解析课程标准、立足学生视角和总结项目成果等策略,引导学生确立选题、明确目标、完成任务、参与评价,进而深入挖掘整本书中的隐含信息和思想内涵。以《论语》整本书阅读教学为例,具体探索项目式整本书阅读教学的具体策略。
期刊
超高分子量聚乙烯纤维(UHMWPE)具有优良的抗冲击韧性、力学性能、抗腐蚀性等特点,UHMWPE与钢纤维组成的混杂纤维能够在水泥基复合材料中发挥优异的力学性能。然而UHMWPE纤维表面光滑,与超高性能混凝土基体之间不能产生很好的粘接力,因此,针对UHMWPE纤维存在的表面改性显得十分必要。本文采用表面氧化的方法改性UHMWPE纤维表面,并以改性UHMWPE纤维与固定体积掺量的钢纤维组成混杂纤维掺入
学位
地应力贯穿于煤层气生产整个过程,对煤层气的勘探选区和工程实施具有重要的现实意义。为研究滇东地应力特征,收集了滇东地区15口井(35层煤)注入/压降试井数据。研究发现:滇东煤层埋深介于497.12~1 234.31m(平均780.44m),破裂压裂介于10.26~22.31MPa(平均16.55MPa),闭合压力介于9.75~21.44MPa(平均15.52 MPa)。煤层的破裂压力与埋深、闭合压力
期刊