基于强化学习算法求解动态板坯空间位置决策问题

来源 :东北大学 | 被引量 : 0次 | 上传用户:nurgul2120
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
板坯库是钢铁生产过程中连铸与热轧的中间环节,其物流作业主要包括入库、倒垛、出库和整理操作,这几种物流操作交替执行,并且入库板坯动态到达,板坯库内高效的物流调度能够降低钢铁生产过程中的物流成本。综合考虑多种物流操作以及入库板坯动态到达的特性,提出了动态板坯空间位置决策问题,对板坯的移动顺序以及分配位置进行决策。入库板坯动态到达是指入库板坯在板坯提取过程中到达,在入库板坯到达之前不知道入库板坯到达的阶段以及类型等信息。考虑问题具有的强时空耦合性,建立了时空网络模型。针对问题大规模、多阶段以及具有的动态特性,提出了基于模型的强化学习算法。本文的主要研究内容如下:1)针对动态板坯空间位置决策问题建立时空网络模型。添加入库动态变量表示入库板坯的到达情况,以最小化板坯移动次数为目标,考虑堆垛约束、倒垛约束等现实条件约束以及时间窗约束。由于存在动态变量无法求解,假定入库板坯到达阶段已知,将动态问题转化为静态问题,通过CPLEX进行测试,验证了模型的正确性与有效性。2)提出了基于模型的强化学习算法。针对实际规模问题,由于动态板坯空间位置决策问题属于序贯决策问题并且具有动态特性,因此提出基于模型的强化学习算法进行求解。强化学习算法将问题按照阶段降维,分解成为一系列的单阶段问题,针对单阶段问题,入库板坯在该阶段是否到达成为已知,动态问题转化成为了静态问题,为了解决维数灾问题,采用近似值函数替代马尔科夫决策过程中的最优值函数,针对不同物流操作对库区状态产生的影响,设计了基于物流操作的值函数,并进一步考虑相同物流操作之间的顺序调度,设计了基于垛位选择的值函数,同时对值函数中的参数及更新方式进行了设置,并通过数值实验验证了提出算法的有效性。3)基于上述研究的模型和算法,设计并开发了动态板坯空间位置智能决策系统,该系统可以在板坯堆存和提取过程中为板坯分配合理的位置,还提供了数据解析与数据维护的功能,对板坯库的各项信息进行不同维度的统计分析以及管理。
其他文献
目的:研究重组全人源抗EGFR单克隆抗体在食蟹猴中的药代动力学性质及其在小鼠体内的组织分布与排泄特征。方法:运用ELISA法研究重组全人源抗EGFR单克隆抗体在食蟹猴中的药代动力学,并进行PK分析;采用放射性同位素125I标记抗EGFR单克隆抗体,结合三氯醋酸(TCA)沉淀法和分子排阻高效液相色谱法(SHPLC)进行了抗EGFR单克隆抗体在荷瘤裸鼠体内的组织分布、粪尿排泄、胆汁排泄以及是否与血浆蛋
泰乐菌素(Tylosin)属于16元环大环内酯类抗生素,包含泰内酯和三个糖基,通常由弗式链霉菌生产。泰乐菌素具有广谱抗菌性,对多种革兰氏阳性菌及部分革兰氏阴性菌具有较好的抗性,通过结合细菌核糖体50S亚基的23S r RNA发挥其抗菌活性,由于其广谱抗菌性和明显的促生长作用,因此在畜牧养殖业被广泛应用。泰乐菌素以其低毒,高效,无残留,并且是畜禽类专用抗生素,不与人类产生交叉耐药性的优点,有着极为广
20世纪90年代,中国城市化发展进程加快,城市人口急剧增长。城市空间的高强度开发破坏了城市的生态环境和生态格局,导致城市中居民的生活环境日趋恶化。如何通过既有的存量土地对城市生态做出一定的改善是一个需要克服的难点。与此同时,城市开发速度的加快,导致大量同质化景观出现。景观变成了一件艺术品脱离人们的日常生活,人们对于景观的参与度低,景观价值也随之降低。社区是城市组成的基本单位和城市居民生活的重要场所
甲午战争后,儒家宇宙观与东亚天下观遭到冲击,仅在器物层面西化,文化、制度保持不变的中体西用论难以为继。此后出现了主张宪政但保留儒家修身道德的改良派,和主张推翻满清及帝制的革命派。前者在哲学上是调和主义,后者是激进主义。章太炎以日本思想界为中介了解到尼采哲学,尼采在东亚之所以流行的原因在于他被作为反传统主义的重要论证工具。根据维特根斯坦“意义即使用”论,中国近代激进主义是出于“使用”超人做什么而决定
面对国内外风险挑战明显增多的复杂局面,我国坚持把优化营商环境作为推动经济高质量发展的重要支点。税收是政府利用“有形之手”调控经济的重要方式,也是营商环境的有机组成部分,在吸引外企投资、引导产业布局等方面发挥了关键作用。良好的税收营商环境也对提升微观市场主体活力、促进经济平稳健康发展具有重要意义。税收的确定性是评价税收营商环境的一个重要维度。市场经营不仅需要稳定的政局、安全的社会秩序,也需要明确的制
相对与我们熟悉的欧氏空间,Minkowski空间是一个全新的领域,由于其度量的不同,使得Minkowski空间的一些问题与Euclidean相比有着截然不同的结果,这些结果为Minkowski空间所独有的结果,也为我们的研究提供了方向,本文主要讨论三维Minkowski空间中的旋转曲面.对于Minkowski空间中的旋转曲面,前辈已经做了大量的工作,并得到了很多漂亮的结果,本文所讨论的旋转曲面是伪
随着社会的迅速发展,能源危机和环境污染越来越明显,成为社会持续发展的巨大障碍。由风、光等可再生能源组成的微电网系统成为解决这些问题的重要途径。但是,风、光等可再生能源因其自身随机性和波动性,在并入电网的过程中会给电力系统带来不小的危害。储能系统因其具有双向吞吐能力,可有效地抑制风光功率的波动,从而提高风光利用率。通过对储能单元性能分析,由于受其自身控制响应速度以及循环寿命限制,不纯在单一形式的储能
冷轧产线的生产联排计划是在根据各道工序库存情况确定各机组待生产物料并决策物料生产顺序的过程,联排计划的编制是保证钢铁企业生产合理性的重要环节。在联排计划的编制过程中,涉及到多道工序、多个机组、多种物料,属于大规模NP-hard问题。在连续生产的过程中,前后搭接生产的物料品种频繁切换会产生额外费用,甚至影响产品的质量,降低客户满意度;在一条产线中,如果同一物料前后道工序生产顺序差异过大会影响机组生产
目的:针对糖尿病中成药实际上是规范化、固定化的中药方剂,本论文依托广州中医药大学多年中医药研究背景及第一附属医院内分泌团队糖尿病诊治经验,借助已证明可用性和有效性的偏序形式结构分析理论知识发现及可视化方法,从应用角度出发,可视化、关联化相关糖尿病中成药方剂配伍、用法用量、注意事项等知识,以期全面、完整发现糖尿病中成药证治规律,为临床医生针对特定的临床情况进行恰当、安全、可行的中成药决策提供参考,整
与国外成熟酒店市场相比,国内酒店品牌的市场连锁化率仍有较大发展空间。酒店行业普遍较高的流动率在一定程度上限制了扩张的步伐,也在一定程度上影响了服务品质。基于此,本文从员工关怀的角度出发,结合酒店具体工作场景,探讨马斯洛需求层次理论在员工关怀体系设计中的应用,提出了员工关怀阶梯策略,意在留住一线员工,并进一步提升员工的工作敬业度和企业忠诚度,助力企业高速扩张。
期刊