基于强化学习的多无人机协同控制算法研究

来源 :中国科学院大学(中国科学院长春光学精密机械与物理研究所) | 被引量 : 0次 | 上传用户:wekey
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能和无人机技术的迅猛发展,多无人机系统在军事和民用领域中的应用越来越广泛。特别是在军事领域,多无人机系统需要具备高度的自主性、协同性和适应性,以应对极端复杂和不确定的环境。本论文在此背景下,将强化学习技术引入到多无人机协同控制中,旨在解决强化学习在多无人机协同控制中存在的难以收敛、无人机之间协作性差及任务完成率低等问题,并对改进后的算法进行了仿真实验验证。以下是本论文的主要工作和创新点:1.为了测试多无人机系统在战场作战中的应用,开发了一款多无人机仿真推演平台软件。该软件具备模拟红蓝军对抗作战的能力,软件的策略接口可以接入各种不同的策略以控制多无人机系统,并展示不同策略算法的控制效果。该软件能够呈现出色的演示效果,为后续算法的训练和仿真演示提供了重要的基础。2.针对MADDPG算法在搜索过程中效率低下、重复搜索等问题,提出了一种基于随机网络蒸馏的强化学习算法RND-MADDPG。该算法引入好奇心机制中的随机网络蒸馏,优化智能体经验探索的过程,通过对未知区域的优先探索来提升智能体的探索效率。在推演平台软件上进行仿真实验验证,实验结果表明,RND-MADDPG算法可以显著提高探索效率并提升算法的收敛效果,在任务成功率方面相较于MADDPG算法提高了6%。3.针对MADDPG算法训练时间长、无法充分利用硬件资源以及算法收敛速度慢等问题,本论文提出了一种基于并行训练和多级缓冲池的强化学习算法PAR-MADDPG。该算法借鉴了A3C算法的并行经验探索思想,充分利用了多核CPU的计算资源,并构造了多级经验池,使不同价值的经验进行分区存储并分级优先回放。实验结果表明,PAR-MADDPG算法的训练时间缩短至原来的1/7,相较于MADDPG算法,在任务成功率方面提高了8%。同时,PAR-MADDPG算法表现出良好的收敛速度和稳定性。4.针对智能体面临的动作空间和状态空间维度过大导致信息冗余、难以学习到关键信息的问题,本论文提出了一种基于多头注意力机制的强化学习算法ATT-MADDPG。该算法利用注意力机制对有效信息进行提取,并进一步提高智能体之间的协作能力。实验结果表明,相较于基线算法,ATT-MADDPG算法获得了更高的奖励,且在任务成功率方面相较于MADDPG算法提高了14%。
其他文献
习近平总书记在党的二十大报告中,对健全网络综合治理体系,推进建设良好网络生态作出重大部署。新时代高校网络道德教育对于形成良好网络生态发挥着重要作用。党的十八大以来,习近平高度重视网络道德建设,发表了一系列重要论述,为新时代高校网络道德教育指明了方向、提供了根本遵循。随着信息技术的发展,网络空间深刻影响着大学生的思想观念与交往形式,对新时代高校网络道德教育提出了更高的要求。高校要落实立德树人根本任务
学位
《普通高中化学课程标准(2017年版2020年修订)》强调,社会性科学议题(SSI)是发展学生核心素养的重要途径。社会性科学议题蕴含着丰富的教学价值,是促进知识、思维、能力和素养发展的重要载体。本文以新苏教版高中化学必修教材为例,在分析教材SSI内容特点和探讨教材中引入SSI所承载的教学价值的基础上,提出了一些相应的教学建议。
期刊
<正>艺术与美有着天然的联系。艺术是人类创造的一种美,它必须具有美,给在功利世界中辛勤奔忙的芸芸众生送去美的享受,缓解他们在现实生活中遭受的苦痛。尽管艺术实践如此,但真正对艺术与美的不解之缘作出理论阐述的大概当推黑格尔。在黑格尔之前,鲍姆嘉通创立了“美学”这门学科。他认为美学是研究美的哲学,美是感性知识的完善,所以,美学即感性学。黑格尔沿着美学是美之哲学的思路,提出美学是艺术哲学。为什么呢?因为按
期刊
报纸
新时代党解决台湾问题的总体方略的提出,为推进祖国统一指明了正确的方向。贯彻落实总体方略,不能以孤立的、片面的、静止的思维方式看待台湾问题,而应以普遍的、整体的、发展的系统观念思考、谋划、推进祖国的完全统一。系统观念要求我们将解决台湾问题置于实现中华民族伟大复兴的历史逻辑和世界百年未有之大变局的战略全局之中,用马克思主义的世界观和方法论把握总体方略的核心要义和科学内涵,推动对台工作高质量发展。
期刊
融合发展在多元功能主体、动力运行机制和预期目标设置上展现出不同于和平发展的底层逻辑,为新时代推进两岸民主协商、精准校正“两制”台湾方案的理论定位提供了绝佳的观察视角。在本体论上,“两制”台湾方案是制度耦合机制和协同共治制度。在方法论上,“两制”台湾方案优化利益分配和规范权利保障。在价值论上,“两制”台湾方案追求完全统一、持续安全和共享发展。融合发展、和平统一与“两制”台湾方案之间存在相对的理论和政
期刊
新课改提出后初中语文教学要重视学生综合素养的培养。整本书阅读在初中语文教学中占据着重要的位置,相对于教材中的短篇阅读材料,整本书阅读具有加强的逻辑性以及完整性,还蕴含了丰富的情感。通过对整本书阅读含义以及在语文阅读教学中的价值进行阐述,进而叹息整本书的阅读路径,帮助学生建立正确的人生价值观,丰富学生的情感体验以及精神世界,为提升学生综合语文素养打下坚实的基础。
期刊
胃癌是常见的恶性肿瘤,疾病负担较为严重。胃癌发病影响因素有很多,饮食因素与胃癌关系密切且较为可控。全文根据近年来的流行病学研究证据,从食物种类、膳食模式、饮食习惯3个角度综述饮食因素与胃癌发病的关系,为胃癌的预防提供参考依据。
期刊
为解决路桥工程施工中的各类细节性问题,通过对路桥施工内容、特点以及意义等进行了研究,随后又对其施工技术应用细节问题展开了探讨,最后提出其施工技术应用细节问题解决措施。
期刊
为解决道路桥梁施工技术中预应力施工技术应用问题,以某省市公路工程施工为例,对预应力施工技术在道路桥梁施工技术中的应用表现进行了研究,随后提出该技术应用要点。
期刊