随着科学技术的进步以及使用成本的降低,无人机(unmannedaerialvehicle,UAV)在许多领域都得到了越来越广泛的应用。无人机辅助的蜂窝网络通信(将无人机用作空中通信平台服务地面用户)和蜂窝网辅助的无人机通信(将无人机用作空中用户完成任务)已经成为将无人机融入蜂窝网络的两种方式。如何对无人机与蜂窝网融合的通信系统容量进行优化是一个重要的问题。与传统地面通信不同,根据所处环境的不同,需要利用不同的信道模型(统一和分段信道)对无人机-地面节点通信链路进行建模。因此,如何在不同的信道模型下实现无人机与蜂窝网融合的通信系统容量优化是一个亟待解决的问题。本文将致力于研究无人机与蜂窝网融合的通信系统容量优化问题,根据信道模型的不同,考虑了两个场景,分别为基于统一信道模型的蜂窝网辅助的无人机通信系统容量优化和基于分段信道模型的无人机辅助的蜂窝网通信系统容量优化。研究内容一考虑了基于统一信道模型的蜂窝网辅助的无人机通信系统,其中无人机作为一个空中用户与地面基站通信,通过共享其他小区上行通信链路的频谱资源。由于无人机与地面基站之间的通信链路为视距信道模型,新加入的无人机通信会给共信道上行通信链路的接收者(非相连地面基站)带来严重的干扰问题。为此,本文提出了半正定松弛以及连续凸近似算法,充分利用了无人机在三维空间的移动性来改善系统的通信性能并控制带来的干扰。该研究内容首先考虑准静态无人机场景,即无人机在整个通信时段位置固定,联合优化无人机的三维部署位置以及发射功率来最大化无人机通信系统的通信速率,受限于无人机的最大飞行高度以及发射功率限制,以及保护共信道上行通信链路的干扰温度限制。然后,该研究内容考虑移动无人机场景,即无人机要在给定的任务时间内从初始位置飞向最终位置,通过联合优化无人机的三维飞行轨迹以及发射功率来最大化次级接收者的平均可达速率,并额外受限于无人机的最大飞行速度以及初始和最终位置限制。最后,该研究内容通过仿真验证了所提联合优化算法相比于其它各种对比基准算法的有效性。特别地,通过仿真结果观察到在准静态无人机场景下,无人机一直被放于最低高度,而在移动无人机场景下,无人机需要调整其飞行高度以及水平轨迹以最大化通信系统的可达速率。研究内容二考虑了基于分段信道模型的无人机辅助的蜂窝网通信系统,其中多个地面的用户通过非正交多址的方式将信息发送给无人机空中基站。本文提出了基于强化学习的算法,致力于设计线上的无人机动态轨迹来最大化所有地面用户的总速率。不同于传统的线下设计,其只考虑固定的地面用户以及统一且已知的信道模型,该研究内容考虑一个更具挑战性的场景,其中包括移动的地面用户以及分段的信道模型,并且假设由于用户的随机移动性以及复杂的环境特征,在通信之前无人机无法获取完整的信道状态信息,但可利用合适的位置定位技术和信道估计算法,无人机能因果地获取信道状态信息(对未来时刻信道状态信息未知)。在上述设定下,该研究内容首先提出了一个基于强化学习的算法来设计无人机的动态轨迹,其中每个时刻通过合适信道估计算法无人机可以得到的用户实时总速率作为奖励函数来更新Q-table。然后,为了进一步加速收敛速度以及提高系统性能,该研究内容提出了一种增强强化学习算法,其通过额外地利用在无线通信领域内被广泛使用的无线通信模型(如平均信道模型)作为先验信息来帮助初始化Q-table从而加快收敛速度进一步改善性能。最后,数值仿真结果显示基于强化学习和增强强化学习的算法都能有效地改善系统性能,并且因加入了额外的Q-table初始化,基于增强强化学习算法可以有效地加快学习过程,但增强强化学习算法的性能与用于预训练的模型密切相关,用于预训练的模型越贴合实际信道,增强强化学习算法的性能越好。