边缘智能中基于模型分割的推理任务调度策略研究

来源 :合肥工业大学 | 被引量 : 0次 | 上传用户:hcjw248
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
边缘智能作为边缘计算与人工智能的结合,旨在将人工智能应用推向靠近终端的网络边缘。以深度神经网络模型(DNN)为核心的人工智能应用在边缘智能场景中存在计算时延高的问题,所以在此场景下对DNN计算进行加速是目前的研究热点。模型分割作为一种新兴技术,能有效地减少DNN的推理时长,但目前的研究仍然具有不足之处。本文研究了在“端-边”二层架构和“端-边-云”三层架构下的模型分割调度策略,针对具有截止期限的DNN推理任务,提出了优化任务完成率的算法。本文主要研究内容如下:(1)研究了在“端-边”二层架构下的多类别DNN推理任务的横向分割和调度问题。首先以任务完成率为目标建立了数学模型,并重点设计了边缘服务器任务等待队列的数学表达。然后提出了基于贪婪策略的在线调度算法,算法不仅为每一个任务确定了分割点和边缘服务器,还充分考虑了任务在边缘服务器等待队列上的位置。最后联合三种类别的DNN模型(VGG16,Google Net和Rest Net)推理任务,在不同带宽和任务数量的情况下进行了实验仿真,结果表明本章提出的算法的任务完成率比其它计算方式提高了15%-68%。(2)研究了在“端-边-云”三层架构下的DNN推理任务的横向分割和调度问题。首先以任务完成率为目标建立了数学模型,并进一步优化了任务的等待时延。基于建立的模型,在优化分割点选择算法的基础上,综合考虑服务器带宽和计算资源的分配,并提出了在线调度算法。最后针对VGG16的模型推理任务,在不同带宽及任务数量的情况下进行了实验仿真,结果表明本章提出算法的任务完成率比其他计算方式提高了20%-42%,任务平均完成时间比其他计算方式降低了5%-40%。综上所述,本文针对两种不同计算环境所提出来的数学模型和调度算法在优化任务完成率和任务平均完成时间上有良好表现。本文工作对模型分割这一技术在边缘智能领域中的发展作出了一定贡献。本文的研究在分割对象及算法稳定性方面还有提升空间,有待进一步研究。
其他文献
心率是人体重要的生理参数,对心率的实时准确检测在各行各业均有着广泛的应用。传统的心率检测方法包括心电图(Electrocardiogram,ECG)检测法和成像式光电容积描记(Photo-plethysmography,PPG)检测法,这些方法需接触人体,成本高,操作难度大。近年来,基于图像光电容积描记(Image Photo-plethysmography,IPPG)的心率检测成为热潮,这种技术
学位
以“大智移云”为特征的新一代信息技术的快速发展,给交通管理的信息化、智能化和科学化提供了新的机遇和挑战。国家《交通强国建设纲要》、《“十四五”现代综合交通运输体系发展规划》、《数字交通“十四五”发展规划》中明确提出,要利用大数据、人工智能、机器学习等新一代信息技术提升交通安全应急保障能力,强化交通应急救援能力。对受损路网进行合理的修复以快速打通救援生命线,保障救援队伍和应急物资能够及时输送到各需求
学位
基于文本的行人搜索技术是根据行人文本描述从图像库中匹配目标行人。行人搜索在实际应用中,会面临目标行人查询图像难以获取的问题。因此基于文本的行人搜索可以根据目击者的口头描述进行搜寻。与基于图像的行人搜索相比,它的方式更加灵活和人性化,因此成为学术界新的研究热点问题。该任务与跨模态检索任务类似,都是通过文本检索出相关图像。但是基于文本的行人搜索面临行人图像分辨率低,行人之间类间差别小等挑战,因此必须学
学位
近年来,随着现代雷达、电子对抗和通信等技术的发展,对于微波收发系统的性能也提出了更高的要求。频率源作为收发系统的核心部件,其技术指标要求也愈来愈高,并且在不同的应用场景中,对于频率源的特点需求也有所区分和侧重。在雷达及信息对抗系统中,频率源作为提供本振信号的核心部件,跳频时间直接影响目标搜索能力和抗干扰能力等关键性能。因此,具备频率捷变能力的频率源受到了广泛的关注。本文从频率源的技术基础出发,论述
学位
新体制雷达一般都综合运用多种抗干扰技术,如发射相干的信号波形和利用空间分集技术,根据接收信号在脉内、脉间和空域的相干性差异,可有效抑制干扰,对雷达干扰技术的研究提出了严峻的挑战。针对目前多假目标欺骗干扰方法对抗新体制雷达存在的问题与不足,本文以掩护重要目标为应用背景,以新体制雷达有源干扰为切入点,以理论推导和实验仿真为技术手段,深入研究了基于周期多相位调制的新体制雷达干扰方法。主要研究内容如下:(
学位
随着我国居民对供电质量要求的逐步提高,配电网的发展也面临着新的挑战。智能配变终端是配电网自动化建设中的核心设备,其性能将直接影响到配电网的供电质量。但配变终端所面临的问题仍有不少,其中如何优化配电台区自动化管理成为了目前亟待解决的问题。结合当前配变终端存在的问题,本文提出了智能配变终端管理平台的设计方案和实现方法。智能配变终端管理平台总体采用B/S架构,前端采用Vue.js框架实现,界面设计选用E
学位
学位
随着无线设备的广泛部署,使用Wi Fi信号进行人体动作识别,在人机交互等领域起到重要作用。现有的方法针对不同场景下对同一套动作的识别准确率存在差异的问题,提出利用大量的动作数据对模型进行训练。但是,人工收集大量数据耗时耗力,并且模型对大量数据训练时会导致训练周期变长。本文利用迁移学习和少样本学习方法解决上述问题,论文主要工作如下:信道状态信息受环境影响会产生不同的变化,这会导致在不同时间或不同人做
学位
随着具备多种编辑功能的音频软件的广泛流行,非专业人员为了私人目的也可以随意便捷的对音频文件进行各种编辑甚至是恶意篡改,这给检测音频的真实性带来了巨大的挑战。其中,同源复制粘贴篡改和异源拼接篡改是改变音频原始含义最重要的两种篡改方式。同源复制粘贴篡改操作是将原始音频中的某部分信息复制并粘贴到该音频的其他部分,因此原始片段与篡改片段之间高度的相似性致使检测十分困难。异源拼接篡改操作是将两段不同设备录制
学位
近年来,随着新能源汽车大规模接入电网,对电网调节能力以及能源储备的要求不断提高。全球能源短缺问题的日益凸显以及人类环保意识的日益提高,促使绿色能源开发强度不断增大。自中国在第七十五届联合国大会上提出碳达峰、碳中和的“双碳”目标以来,世界各国有关于能源转型路径的关键判断趋于一致。为了能够早日实现“双碳”目标、提高能源储备量,增强能源系统的储备与调节能力显得尤为重要。本文以车网协同技术为基础,结合主流
学位