基于奖励滤波信用分配的多智能体深度强化学习算法

来源 :计算机学报 | 被引量 : 0次 | 上传用户:leave2009418
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
近年来,强化学习方法在游戏博弈、机器人导航等多种应用领域取得了令人瞩目的成果.随着越来越多的现实场景需要多个智能体完成复杂任务,强化学习的研究领域已逐渐从单一智能体转向多智能体.而在多智能体强化学习问题的研究中,让智能体学会协作成为当前的一大研究热点.在这一过程中,多智能体信用分配问题亟待解决.这是因为部分可观测环境会针对智能体产生的联合动作产生奖励强化信号,并将其用于强化学习网络参数的更新.也就是说,当所有智能体共享一个相同的全局奖励时,难以确定系统中的每一个智能体对整体所做出的贡献.除此之外,当某个智能体提前学习好策略并获得较高的回报时,其他智能体可能停止探索,使得整个系统陷入局部最优.针对这些问题,本文提出了一种简单有效的方法,即基于奖励滤波的信用分配算法.将其他智能体引起的非平稳环境影响建模为噪声,获取集中训练过程中的全局奖励信号,经过滤波后得到每个智能体的局部奖励,用于协调多智能体的行为,更好地实现奖励最大化.我们还提出了基于奖励滤波的多智能体深度强化学习(RF-MADRL)框架,并在Open AI提供的合作导航环境中成功地进行了验证.实验结果表明,和基线算法相比,使用基于奖励滤波的深度强化学习方法有着更好的表现,智能体系统策略收敛速度更快,获得的奖励更高.
其他文献
阐明猪肉价格的变化规律,对于促进生猪行业发展具有重要意义。本文在分析经验模态分解(EMD)优势的基础上,使用EMD方法分解猪肉价格、生猪供给(生猪存栏量/出栏量)等数据,从而对生猪行业变化规律进行分析。研究发现:猪肉价格在短期内存在周期性波动,但长期呈现相对平稳的波动性上涨趋势;生猪供给对价格的影响显著,而价格对供给的影响较弱,这种规律在EMD分解后更为显著;猪肉价格在短期内与出栏量相关性较高,在
随着我国经济高速的发展,人们物质生活水平不断得到提升,人们对艺术的追求也在不断加深。如今艺术呈现多元化、多领域发展,综合材料绘画的出现恰如其分地诠释了艺术的高水平发展,这是社会发展的必然要求也是势不可挡的趋势。就目前而言,综合材料是表现艺术的一种重要形式,在我国的绘画界产生了深远的影响,具有较高水平的艺术价值。利用综合材料绘画可以很好地升华艺术材料的价值,还可以使绘画极具象征性与渲染性,使艺术作品
创新英语写作教学是英语教育者亟待解决的难题。在信息化大数据视野下,句酷批改网写作评阅系统应运而生。文章基于句酷批改网批阅系统进行调查,发现该平台在使用过程中的一些问题,从而提出一些改进的建议,以便能更好地将批改网应用于大学英语写作教学中。同时提出基于批改网的英语写作微型语料库建设的可行性和重要性。
作为英语四项基本技能之一,英语写作在初中英语教学中占有越来越重要的地位,其中《义务教育英语课程标准(2011年版)》对初中生写作做了明确的要求,提到学生能够独立起草短文、短信等,并在教师的指导下进行修改。那么在当前的初中英语写作教学中英语作文批改与反馈的现状是什么样的,存在哪些问题?教师是如何对学生的英语作文进行批改和反馈的?教师反馈的效果如何?批改与反馈作为英语写作教学重要的一部分,在当前初中英
针对四旋翼无人机叶面肥喷施流量控制精度较低的问题,设计了一种基于模糊PID控制的四旋翼无人机叶面肥控制系统。以四旋翼无人机电磁流量调节阀为研究对象,建立电磁流量调节阀数学模型,采用模糊控制与PID控制相结合控制电磁阀的开度;以常规PID控制为对比,采用Matlab/Simulink验证叶面肥喷施模型的准确性和控制系统的有效性;搭建四旋翼无人机叶面肥喷施控制平台,进行喷施效果试验,验证模糊PID控制
爱国奋斗精神作为中华民族精神的重要组成部分,贯穿于中华民族五千年的历史长河。爱国奋斗精神经历了萌芽、形成和发展几个不同阶段,形成了不同的内涵。在新时代,爱国奋斗精神内涵更加丰富,要从政治向度、理论高度、情感深度、实践力度四重维度去把握。在决胜全面建成小康社会的今天,加强广大青少年爱国奋斗精神的培育,要从政治、理论、情感、实践四个方面入手,注重"破"与"立"的关系。
针对低光照增强任务缺乏参考图像及现有算法存在的色彩失真、纹理丢失、细节模糊、真值图像获取难等问题,本文提出了一种基于Retinex理论与注意力机制的多尺度加权特征低光照图像增强算法。该算法通过基于Unet架构的特征提取模块对低光照图像进行多尺度的特征提取,生成高维度的多尺度特征图;建立注意力机制模块凸显对增强图像有利的不同尺度的特征信息,得到加权的高维特征图;最后反射估计模块中利用Retinex理
发展数字经济是把握新一轮科技革命和产业变革新机遇的战略选择。以数据资源为关键要素,以现代信息网络为主要载体,以信息通信技术整合应用、全要素数字化转型为重要推动力,数字经济已成为当前经济社会可持续发展的重大研究课题。但数据作为驱动经济运行的生产要素,其自身的权属问题尚未厘清,同时,数据通过算法和互联网的链接解构原有经济形态并重组经济秩序,带来的交易运行方式的重大变革以及交易信用关系强技术依赖等重大问
在我国基础英语教育中,写作技能被列为构成综合语言运用能力的五种语言技能目标之一。高考英语写作有着严格的评分标准,且分值在高考英语总分中占比较大,由此可见高中英语写作的重要性。2020年新修订的《普通高中英语课程标准》提出教师要积极关注现代信息技术,利用网络学习资源,拓宽学生学习渠道。因此,借助现代科技,将作文自动评分系统与写作教学相结合,符合英语学习的趋势。“句酷批改网”是基于语料库和云计算技术的
目的 宫颈癌患者MRI术前分期诊断率以及盆腔淋巴结转移的诊断价值分析。方法 选择郑州大学附属洛阳中心医院2019年1月至2021年10月收治的72例患者为研究主体。全部患者在进入医院后均开展核磁共振检查,查看患者手术前核磁共振分期、手术前临床分期和手术后病理分期情况,并将手术后病理分期作为判断的主要依据。比较患者手术前核磁共振分期、手术前临床分期诊断率;分析宫颈癌不同阶段手术前核磁共振诊断情况。结