论文部分内容阅读
随着近年来移动互联网技术的快速发展,移动设备及其上运行的应用已成为人们日常生活中不可或缺的一部分。同时,由于移动应用的开发框架及流程的逐渐成熟,且移动设备上传感器的大量集成,一批对计算资源需求极大的应用便应运而生。这些应用推动了移动设备频繁地更新换代,然而其有限的资源仍然成为了限制应用提供更好服务体验的瓶颈。随着移动无线网络的快速升级和云计算技术的日趋成熟,研究人员提出将移动应用中一些计算密集型的模块迁移至资源充裕的云端执行,该方法不仅能够提升应用性能,而且可以减小移动设备的功耗。随着该研究领域成果的逐渐积累,人们将这一领域称为移动云计算。为了契合灵活多变的移动环境,目前移动云计算的相关研究都将计算迁移作为其计算模式的核心之一。虽然计算迁移能够灵活地借助丰富的云端资源来提升移动用户的服务体验,但也带来了新的挑战和研究问题。本文在深入分析了移动云计算领域的相关研究成果之后,以性能优化为目标,基于计算迁移设计了一系列优化方案,主要在多用户场景下的资源调度、可模块化并行应用的传输调度以及针对新型CNN移动应用的任务调度等三个方面展开了研究工作。首先,本文探讨资源有限的微云在多用户接入时的在线资源分配策略和计算迁移方案。我们分析多用户陆续接入时,在线资源分配方案呈现出的是一个序列决策过程。基于以上分析,我们采用强化学习来设定计算和网络资源的在线分配策略。而后,我们采用搜索剪枝方法,通过深度优先遍历来寻找多条线性链接,并基于一次迁移来确定每条线性链接上各模块的执行位置,进而确定整个应用拓扑中各模块的计算迁移方案。模拟实验表明与在线贪心策略相比,基于强化学习的在线资源分配策略具有明显的优越性。同时,搜索剪枝得出的计算迁移方案能达到最佳迁移方案性能的90%。其次,本文分析了可模型化并行应用在进行计算迁移后,结合移动端和云端进行分布式执行时的传输调度问题。结合应用中各模块的计算迁移决策方案,我们设计了一个两层的启发式决策算法。其中外层采用上述的搜索剪枝方法,确定各模块的计算迁移方案。而在内层首先挑选需要同时跨网络传输的边,综合考虑每条边的最晚开始时间及数据传输量,采用贪心算法设计跨网络的数据传输策略。实验证明,结合搜索剪枝及贪心设计的启发式决策算法,在满足实时性的前提下显著降低了可模块并行应用的响应时间。最后,为进一步提升基于CNN(卷积神经网络)模型的图像识别类应用的推理性能,本文围绕计算迁移提出了图片感知的分布式推理框架——IF-CNN。首先,为减小CNN模型的平均复杂度,我们从多个复杂度不同的CNN模型组成的模型池中选择高效的模型来处理不同的输入图片。具体的,我们采用多任务学习方法来预测待选模型针对输入图片的top-1标签概率,并以此来衡量待选模型处理此图片的置信度。并基于此置信度,来选择某阈值以上的最简单的CNN模型进行处理。在挑选高效的处理模型之后,我们根据移动端和云端的网络状况来实现CNN模型的分布式推理。在此过程中,我们分别采用半精度推理和特征压缩来实现了本地推理和中间结果传输两个阶段的优化。实验表明,IF-CNN能在基本不影响最终识别率的前提下,显著提升CNN模型的推理性能。同时,IF-CNN中的模型选择过程能与其它模型压缩的相关工作互补,进一步提升该类模型的推理性能。本文以优化移动应用的性能为目标,围绕计算迁移提出了一系列的优化方案来进一步减小应用的响应时间。首先,本文考虑到微云资源的有限性,采用了强化学习来设定多用户接入时在线的资源分配方案及计算迁移策略。随后,本文分析了可模块并行应用的特点,设计了其在计算迁移之后的传输调度策略。最后,为进一步提升CNN的推理性能,提出基于计算迁移提出图片感知的分布式推理框架。我们希望本论文中的研究工作可以对移动云领域的发展及技术推广提供一些参考和帮助。