随着近年来无人机(unmanned aerial vehicle,UAV)技术的快速发展,使得无人机不管是军事领域还是民用领域都得到了丰富的应用。特别是诸如高移动性、灵活部署、视距信道等优点特别适用于协助或代替传统地面无线通信,其中无人机基站是主要用例之一,无人机作为可移动的基站部署在空中,能够在临时或紧急事件中为用户提供按需服务。相比于传统的地面基站可以利用光纤、电缆等有线媒介为基站提供通往核心网的回程链路而言,在无人机基站通信系统中,有线媒介会限制无人机基站的高机动性。因此必须利用无线回程链路,而无线频谱资源非常稀缺,因而高效率的利用有限的频谱资源至关重要,基于这个考虑,本文特地研究了具有带内回程链路的无人机基站通信系统,即接入链路与回程链路共享同一段带宽,其相比于带外回程方案有更高的频谱利用率。本文的主要研究内容有:(1)研究了一个具有带内回程约束与单接入点的无人机基站通信系统。研究了在无人机移动性和碰撞避免约束、信息因果约束、总带宽约束及无人机发射功率约束等条件下,提出了联合无人机轨迹设计、系统带宽分和用户功率分配来最大化用户的最小通信速率的优化问题。由于所考虑的优化问题是非凸的,本文采用迭代优化和连续凸优化方法提出一种有效算法来求解该问题。仿真结果表明,相比于几种基准方案,提出的联合轨迹、带宽和功率优化是能够有效提高无人机基站系统中的最小用户速率性能。(2)进一步研究了一个具有带内回程链路约束与多接入点的无人机基站通信系统,考虑其轨迹优化和资源分配。与单接入点方案相比,在多接入点方案中,无人机基站在不同的位置可以选择信道条件更好的接入点进行数据回程,这避免了在单接入点方案中无人机与接入点因距离太远或障碍物导致信道太差的极端情况,使得整个系统的吞吐量性能大打折扣。研究了在无人机移动性和碰撞避免约束、信息因果约束、总带宽约束及无人机发射功率约束等条件下,提出了联合无人机轨迹设计、系统带宽分配和用户功率分配来最大化用户的最小通信速率的优化问题。由于要解决的优化问题是非凸的,本文利用了迭代优化和连续凸优化方法提出一种有效算法来求解该问题。仿真结果表明,相比于单接入点方案,在多接入点方案中,整个系统的用户最小通信速率性能得到了有效的提升。