针对边缘智能系统的时间感知动态神经网络研究

来源 :云南大学 | 被引量 : 0次 | 上传用户:leo5_1_8
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着人工智能时代的到来,以及人们对于隐私的要求,越来越多的深度学习模型部署到边缘系统上形成边缘智能系统。边缘智能系统通常来说计算资源和能耗受限,而DNN的复杂度越来越高,因此边缘智能系统的计算能力很难满足DNN的计算需求。同时,在边缘智能系统中也有众多延时敏感和各种需要实时计算的场景,在这些场景中,对模型的时间要求较高,这进一步加大了在边缘智能系统中部署神经网络的难度。因此,研究人员提出了一些技术以加快DNN在边缘智能系统的推理,然而这些方法多为静态方法,即它们无法动态适应可用的计算资源,而边缘智能系统部署环境多样化且复杂,其中的计算资源在运行时可能发生较大的改变。少有的动态方法研究也不能实现时间感知的运行——动态模型不能根据系统资源的状态调整运行结构从而满足其时间需求。针对现有方法的缺陷,本文提出了一种新的针对边缘智能系统的时间感知动态神经网络方法,所提方法可以动态调整网络模型结构保证其时延要求。为了实现时间感知方法,需要同时考虑硬件结构以及动态控制模块的开销并需要考虑动态模型的训练方法。由此,本文首先提出针对目标边缘智能系统的操作延迟查找表,以实现快速可靠地延迟估计;其次,设计了一种时间感知模块,可以根据查找表以及推理时间预算选择出满足时间需求的神经网络结构;最后,提出一种新的多分支模型结构,该结构能够直接跳过整组块,显著减少了推理延迟。本文将时间感知与多分支结构结合,实现了动态且高效的模型动态控制方法。本文在边缘设备Jetson Nano上进行实验验证,实验结果表明,本方法设计的神经网络能够很好的部署在在边缘设备上,并且实现了推理时间与精度的良好权衡。
其他文献
随着物联网、互联网技术的快速发展、第五代通信(fifth-generation,5G)技术的普及、功能强大的终端设备和新的交互式移动应用程序的出现,我们正处于一场数据革命之中。云计算的范式已经无法满足人们对低时延、低功耗、高带宽的通信需求。而移动边缘计算(Mobile Edge Computing,MEC)将计算、存储以及网络控制能力转移到网络的边缘,可以减少时延、能耗,同时提高带宽,为用户提供了
学位
差分进化算法(Differential Evolution,DE)是一种典型的随机优化算法,其主要通过变异、交叉和选择操作的循环迭代来进行全局搜索,其中变异操作对算法的影响尤为显著。尽管至今为止已经有各种类型的DE算法变体被相继提出,但在某些复杂工程优化难题上,DE算法及其变体仍然容易遭遇种群早熟收敛、搜索停滞等问题。其中一个很重要的原因就是算法的全局勘探(Exploration)和局部开发(Ex
学位
报纸
以乙二醛替代甲醛合成木材浸渍改性用三聚氰胺-尿素-乙二醛(melamine-urea-glyoxal,MUG)树脂,通过对不同温度、p H值、原料配比条件下合成的MUG树脂性能进行分析,优选出较佳的合成工艺,并用优化工艺合成的MUG树脂对杨木进行改性。结果表明:当反应pH值在4~5,反应温度为65℃,M、U、G量比为0.08∶0.40∶1.00时,合成的MUG树脂性能较佳,黏度为15.01 s,固
期刊
图着色问题是最著名的NP-hard问题之一,在现实应用以及理论研究方面都有很重要的意义。目前解决图着色问题的方法主要有两种,精确和启发式。启发式算法有快速的求解能力和很强的通用性,在实际问题中通常能找到最优或者接近最优的解。禁忌搜索算法是一种启发式算法,它应用于图着色问题能带来高质量的解,命名为Tabucol。禁忌搜索算法是在局部搜索的基础上引入禁忌列表和相应的管理规则来实现的,它有效的避免了搜索
学位
在新型冠状病毒肺炎(COVID-19)的诊疗中,专业医师通过观察患者肺部CT影像病灶情况判断病情,这和标签为分割图的医学影像分割任务类似,目的在于提取目标影像中感兴趣的区域,如病灶、组织器官等,由于CT影像数量较多,专业医师工作量较大,因此利用计算机辅助医师诊疗有重要意义。医学影像常缺少金标准数据,从半监督学习角度出发,可以减少对金标准数据的依赖。一些半监督分割方法通过一致性正则化得到高质量伪标签
学位
伪造图像或视频的检测一直是计算机视觉与信息安全领域的研究重点。随着诸如自动编码器和生成对抗网络等深度生成模型的显著发展与进步,人们现在可以轻松地使用开源工具甚至移动应用操纵图像和视频。最为知名的deepfake是指基于深度学习制作的虚假多媒体内容,即深度伪造。鉴于deepfake较低的制作门槛且高质量的伪造效果,这些技术很容易被恶意者滥用,包括传播虚假新闻,色情报复,金融欺诈甚至影响政治舆论。因此
学位
零次学习是指可以在数据类别不含标注信息的情况下进行模型学习的任务。零次学习是模型学习推理能力的学习。零次学习近两年飞速发展,衍生出了各种各样的方法。这些方法都是围绕如何将模型在训练集上获取的知识应用在测试集的预测中。本文针对零次学习难点中的领域漂移、枢纽点和语义间隔问题进行解决。(1)针对语义间隔问题,本文提出了3种针对零次学习中常用数据集自动构建知识图谱的方法。分别为基于原始属性语义空间,自然知
学位
在建筑工程中,建筑屋面是非常关键的结构之一。建筑屋面需长期暴露于外界中,受多种因素影响,非常容易产生渗漏问题,降低工程质量、影响业主体验。文章以某A建筑工程为例,立足于屋面施工实际,从施工准备、技术应用、排水系统设置、质量控制等方面总结施工技术,增强屋面的防水性、安全性与稳定性,对建筑工程运行与建筑企业发展具有深远意义。
期刊
生态文明教育是社会主义现代化建设的必然要求,也是新时代德育工作的重要内容。初中道德与法治课是对学生进行德育的主阵地,对初中生进行生态文明教育是顺应国家生态文明建设,培养生态文明建设人才的应有之义。初中生生态文明教育应以习近平生态文明思想为根本指导思想,促进人与自然和谐共生为基本价值追求,涵盖生态文明理论知识、法治教育,树立生态文明协同观、科技观、权义观等教育,通过各种手段让学生感受生态之美,培育学
学位