基于深度强化学习的车辆路径规划算法研究

来源 :吉林大学 | 被引量 : 0次 | 上传用户:cjl7648893
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
物流行业作为国家经济实力的重要组成因素,在引导国家经济发展,提高国民生产总值等决策上发挥着重要的作用。在全球经济一体化趋势的大背景下,物流业已经成为我国重要的经济支柱之一。现代物流的蓬勃发展得益于信息技术的支持,如何通过现有的技术手段来构建一个与互联网产业相匹配的物流配送体系显得格外重要。通过控制运输成本,可以显著地提升现代物流的效益,实现科学化的配送体系管理。组合优化是计算机科学与运筹学中的一个经典分支,在日常生活、交通和制造等多个领域有着广泛的应用。车辆路径问题作为经典的组合优化问题之一,其目的是找到一个运输成本最低的路径集合,该问题往往难以在一个多项式的时间内找到确定的解决方案。不同于旅行商问题,车辆路径问题带有容量约束等特定条件,并且可以根据不同的场景衍生出更加复杂的新问题,因此研究求解这类问题的算法往往是十分具有吸引力的。在对车辆路径问题进行求解时,传统的元启发式方法可以在一个令人接受的时间范围内获得局部最优解,但是这些方法往往以一种随机的方式来选择要执行的算子,这就导致浪费了很多求解时间并且缺少有效指导探索解空间的策略。为了解决这一挑战,本文提出了一个基于迭代局部搜索的深度强化学习算法来求解车辆路径问题,我们称之为带有重启动机制的学习动作序列算法(LAS-restart)。在迭代局部搜索的每一步,我们的模型都会选择当前最优的动作去执行并且生成一个新的解决方案。值得一提的是,我们的模型会根据历史动作带来的收益决定主动或被动地执行扰动算子。LAS算法的模型框架包含路径模拟器、嵌入网络、动作策略网络、动作池和重启门这五个组件。该模型的输入是一个由问题和解决方案的特征拼接而成的特征矩阵,我们会将模型的输入经过转换送入至嵌入网络中。在实验中我们选择使用序列编码器作为嵌入网络,序列编码器中包含多头注意力机制等技术手段,有效地防止过拟合与梯度消失等问题的发生。嵌入网络最终会输出一个由深度网络理解后的特征向量,该向量会与当前的状态相拼接,以此来形成智能体对当前环境的观察。观察值会输入至改进的深度Q网络中,该网络最终会选择一个最优的动作去执行,动作池中每一个算子可以理解为一个独立的动作。通过不断重复上述这一过程,LAS算法最终会得到一个实例的最优解。除此之外,我们还设计了一个重启动机制来更充分地探索解空间,当满足阈值条件时会进一步地探索陷入局部最优解的实例。我们分别在不同规模的车辆路径问题上进行了数值实验,并且将实验结果与改进式方法、构造式方法、启发式算法和求解器进行了对比。实验结果表明,与最前沿的方法相比,本文提出的算法可以获得最优的结果。我们也进行了消融实验,结果显示不使用重启机制的学习动作序列算法也可以在CVRP20和CVRP100上获得最好的结果。
其他文献
<正>一、试题分析:在概念阐释中理解历史解释素养(2020年全国卷Ⅰ·32)雅典城邦通过抽签产生的公民陪审团规模很大,代表不同的公民阶层,负责解释法律、认定事实、审理案件等。而在罗马,通常由专业法官和法学家进行司法解释。由此可见,在雅典城邦的司法实践中A.职业法官拥有审判权B.负责司法解释的主体与罗马相同C.公民直接行使司法权D.公民陪审团维护所有人的法律权益近年来,高考试题不仅注重考查学生对历史
期刊
丹凤秦岭地区光石沟铀矿床是我国典型伟晶岩型铀矿床之一。为探究该矿床的形成时代,文章利用微区、原位分析技术SEM、LA-ICP-MS对5件与晶质铀矿共生的独居石样品开展了形貌特征、稀土元素及U-Pb年龄测定。结果表明:独居石BSE图像没有明显的成分环带,化学成分具有高Th、Th/U的特征,稀土元素标准化图解表明其为高温岩浆作用相关成因;独居石的U-Th-Pb同位素年龄为(403.5±3.6) Ma、
<正> 在事事讲求效率速度即用即弃的现代商业社会,老字号是声誉和质量的保证。它们历经时代动荡战火硝烟仍能顽强生存,堪属含金量足赤的名符其实的金字招牌,属非物质的传世珍宝。如今提倡重振老字号。如
期刊
传统应试教育背景下的课时教学作业存在形式单一、探究性与实践性不够等弊端。“双减”背景下,遵循学生身心发展规律,基于大概念与深度学习的思想政治课单元教学成为课堂教学趋势。与之相适应的多元化单元教学作业设计,能够减轻学生过重的纸笔作业负担,引导学生深入社会生活实践,经历自主探究的学习过程,自觉运用马克思主义理论研究现实、解决问题,在价值冲突中深化理解,培育学科核心素养。
全面预算管理是一项具有很强技术性、科学、高效的管理体系,它对于企业权力分配、责任分发、运营机制优化具有积极的促进作用。在全面预算管理视域之下,建筑施工企业应充分利用、发挥全面视域管理的优势,加强对其的重视程度,不断优化企业内部的资金管控工作、工程施工工作、工程造价工作等各方面工作的实施,提高自身的市场竞争力以及经济、社会效益。因此,本文从全面预算管理视域出发,分析其对建筑施工企业资金管理工作的重要
从素养到美术学科核心素养,可以看出学生养成终身学习的习惯、适应社会发展应该具备的关键因素就是核心素养。为在高中美术教学中体现核心素养,该文作者把握美术学科的特点,寻找有效的教学策略,增强美术教学的有效性,促使学生在学习过程中建立正确的审美观,形成美术学科五大核心素养。
目的 探讨金水宝胶囊联合左甲状腺素钠片治疗桥本甲状腺炎的临床疗效。方法 200例桥本甲状腺炎患者,根据治疗方式不同分为常规组和研究组,每组100例。常规组应用左甲状腺素钠片进行治疗,研究组应用金水宝胶囊联合左甲状腺素钠片进行治疗。比较两组患者临床疗效、甲状腺激素[游离三碘甲状腺原氨酸(FT3)、游离甲状腺素(FT4)、促甲状腺激素(TSH)]水平、甲状腺抗体指标[甲状腺过氧化物酶抗体(TPOAb)
心力衰竭(HF)是一种慢性全身性疾病,由于其高患病率、高死亡率和高医疗成本等特征,目前已成为一个日益严重的公共卫生问题。有证据表明,慢性HF形成的过程中经常伴随着营养不良的症状。同时,营养不良也与伤口愈合障碍、术后并发症的发生率和死亡率存在关联。营养不良已成为医疗保健系统和日常临床实践中的一个挑战,它会影响疾病的进程和患者的预后。营养干预对HF患者的病理生理学、治疗和结果的影响越来越受到重视。口服
随着轮式机器人在日常生活中的普及,人们越来越关注它工作时的安全性。轮式机器人在环境中如何高效地自主避障,一直作为移动机器人领域的热点和难点,避障结果的优劣也会间接影响导航与定位的结果。要想实现精准地避障,就必须对周围环境的拥有较好地感知能力。利用多传感器信息融合技术,能较好地发挥每个传感器的优势,能够获得较为全面的外部环境数据,从而提高避障时反应的准确性和快速性。因此,本文针对轮式机器人在复杂环境
近年来,在“互联网+”的驱动之下,我国互联网银行逐步兴起、迅速发展,从我国第一家互联网银行微众银行成立起,仅有短短5年时间。作为一种新型的商业银行,互联网银行依托网络大数据的优势,将贷款提供给传统商业银行没有覆盖到的长尾客户,促进普惠金融发展。与传统商业银行管理类似,互联网银行的不良贷款率管理事关该银行的生存与发展,也对全国金融市场稳定发展发挥重要作用。我国互联网银行不良贷款率虽然当前仍低于国内传