面向边缘智能的模型训练服务部署和任务卸载研究

来源 :中国科学技术大学 | 被引量 : 0次 | 上传用户:sym409198933
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
步入5G时代,云计算模式难以应对网络边缘产生的大量数据以及越来越多的延迟敏感应用,边缘计算被提出来应对这些挑战。为了充分利用网络边缘产生的大量数据,机器学习等方法通常被采用,其中深度学习在以图形处理为代表的诸多应用场景取得了良好的效果。在“边缘智能”这一概念的推动下,将边缘计算技术和深度学习等技术结合同时基于边缘数据的地理分布式特点进行边缘分布式模型训练成为了一个热门的技术趋势。在网络边缘进行分布式模型训练首先需要在边缘节点上部署相应的模型训练服务。已有的服务部署研究往往针对轻量的普通服务,主要从服务请求延迟和系统能耗等角度研究服务部署。模型训练服务的任务请求由于其资源的密集性和运行的长期性与普通的边缘服务有较大的差别,需要从新的应用场景研究服务部署问题。本文从时间段的角度考虑模型训练服务的部署,并基于服务部署代价和服务部署收益这两个量化方式,以最大化系统综合收益的目标,研究最优的服务部署决策。服务部署问题首先被形式化为了一个非线性的0-1整数规划问题,然后本文通过优化目标转化、松弛、约束条件延迟判断以及随机舍入等技术,提出了 RDSP模型训练服务部署算法,并通过理论分析证实了 RDSP算法的性能保障。基于多个性能指标的仿真结果显示,相对于基准算法,RDSP算法在维持绝对的负载均衡性能优势的同时可以提升26%的系统综合收益。为了保障系统性能,边缘系统还需要恰当地卸载分布式模型训练任务。一个典型的边缘分布式模型训练任务往往涉及到多个数据节点,卸载任务时需要解决节点的指派问题。在大部分现有的边缘任务卸载相关研究中,一个任务仅涉及一个请求节点,同时在大部分边缘模型训练相关工作中,往往假设数据是在边缘节点准备好的,而忽略了数据节点指派问题。此外,由于边缘节点资源的有限性,需要研究如何在多个边缘节点为多个分布式模型训练任务分配资源从而保证服务质量,这是大部分现有工作没有考虑的。本文联合地考虑模型训练任务的卸载问题和资源分配问题,并从最大化系统训练任务吞吐率的角度出发,将这个联合问题形式化为一个被证明为NP难解的非线性混合整数规划问题。基于约束条件转化和随机舍入等技术,本文设计了 RDJOA算法用于模型训练任务卸载和资源分配,理论分析表明RDJOA算法有着接近理论最优解的性能。仿真结果指出,相对于基准算法,RDJOA算法能提升56%的系统训练任务吞吐量以及53%的平均边缘节点资源利用率。
其他文献
随着我国国企改革的不断深化,多层次的资本市场改革也提速推进,此时会计信息成为了一种通用的国际化商业语言。它不仅能够对会计信息使用者提供理论指导,帮助其根据企业的真
随着信息技术的不断发展,学生获取知识的途径也在不断增多,微课程是一种以在线学习或移动学习为目的的教学内容,具有规范化的教学设计环节,主要包括课程设计、开发、实施以及
仓储搬运设备在企业的物流系统中扮演着非常重要的角色,它不仅能够节省人力物力,减少搬运的成本,还能进一步提高操作的安全性,有效减少事故的发生。不过值得注意的是,目前仓储领域对仓储货物的出入库管理研究较多,而缺少对仓储搬运设备管理策略的研究。传统的仓储搬运设备管理策略,缺乏灵活性,不能最大程度提高搬运设备的搬运效率,且人工管理成本较高,因此,为了进一步提高仓储搬运设备的搬运效率,同时方便用户对搬运设备
[目的]观察中药自拟方联合低分子肝素钙对晚期恶性肿瘤患者血液高凝状态的临床疗效及安全性。[方法]选取晚期恶性肿瘤高凝状态患者70例,随机分为对照组(低分子肝素钙)和试验
在分析了大量钢渣原料的化学成分、矿物组成和粉磨邦德功指数基础上,依据辊压机高压料床挤压粉碎原理,本文采用辊压机对钢渣进行预挤压试验,并参照相对易磨性试验方法,对比了
目的观察自拟四子温肺汤对慢阻肺急性加重期(AECOPD)患者血清白介素-17A(IL-17A)、缺氧诱导因子-lα(HIF-1α)表达的影响。方法将2017年1—12月本院治疗的114例AECOPD患者作
家蚕(Silkworm,Bombyx mori)是鳞翅目昆虫发育及生理学特征研究的模式生物,作为寡食性的经济昆虫,研究其摄食性具有重要理论及应用价值。家蚕的摄食性研究主要在于家蚕对人工
通过建立高效率"双无"(无启动子、无polyA)打靶载体MSTN-GFP和MSTN-neo及新生绵羊和胎儿成肌细胞的培养和鉴定,优化了培养条件,改善了细胞状态,为提高打靶效率及体细胞克隆提供了
传统盗抢骗“小案”作为一种持续高发的案件,长期以来严重危害着人民群众的社会安全感和满意度,不利于社会治安和谐稳定与民生保障。在大数据时代,传统盗抢骗“小案”依然多发、频发,占全部刑事案件总数的百分之六十左右,且犯罪愈加职业化、团伙化、流窜化、产业化。这使得侦查部门常常疲于应对、陷入被动,破案率低迷的瓶颈难以打破。为更好地解决该类案件侦查实践中面临的突出问题,本文以近年来公安部督办以及多地侦查部门侦
总结了多种网络信息主题检索性能的优化措施,提出了网络信息主题检索性能优化的原则,指出了主题组织法性能优化过程中应当注意的一些问题。