在人工智能算法的技术加持下,物联网（Internetof Things,IOT）边缘已经从数据源头逐渐转变为智能应用入口,以实时感知、动态决策为代表的大量智能应用在网络边缘不断涌现,而单纯基于云的人工智能存在通信压力大、应用反应迟缓、数据隐私差等难以克服的缺点,因此将人工智能推向网络边缘势在必行。然而,目前边缘人工智能的实现仍然面临着数据异质、计算存储资源不足以及算法收敛时间长等挑战。迁移学习通过知识重用,不仅可以减少对数据、计算等资源的依赖,而且能够提高算法性能,因而成为一种有效的解决方案。本文利用迁移学习解决深度学习模型在物联网边缘训练困难和多智能体场景下智能体交互效率低的问题,分别从构建迁移算法性能与通信资源联合优化框架,以及利用知识迁移提高智能体交互效率两个方面展开研究,主要工作内容如下:（1）针对IOT边缘通信计算等资源不足导致迁移效率低下、模型训练困难的问题,提出适用于无线网络的多点对多点迁移学习算法。借助于IOT边缘异构设备的数据多样性,设计多源多目标的迁移学习算法。考虑多源多目标的分组特性,构建基于正交频分复用（Orthogonal Frequency Division Multiplex,OFDM）的无线组播通信模型,并以此建立源设备选择与无线网络资源分配的联合优化问题。考虑到优化问题中优化变量相互耦合的特点,提出基于源设备数据相似度和通信资源利用率的源设备选择方案,在得到源设备选择方案后进行通信资源分配。最终的仿真结果显示,相对于随机选择数据迁移,提出的算法在资源受限的情况下能够达到较高精确度,并且在时延、可扩展性等方面也有很大提升。（2）针对传统多智能体算法在解决物联网下的多设备联合决策、预测等任务时存在的交互效率低、收敛时间长等缺点,提出基于在线知识迁移的多智能体强化学习算法。考虑多智能体场景下的环境非平稳性和部分可观测性,利用soft target机制生成具有全局信息的软目标,并利用在线知识迁移方法重行设计critic网络损失函数,将软目标作为智能体critic网络优化目标之一。为进一步提高智能体间的交互效率,提出了基于奖励、线性组合、MinLogit以及相似度聚类四种soft target生成方案。最终在经典游戏环境grounded communication environment上的实验结果显示,提出的算法能够帮助智能体快速收敛并获得更高的奖励。