随着大数据、云计算和人工智能时代的来临,人们对数据流量的需求呈指数级增长,给无线通信带来了巨大的机遇和挑战。5G时代的来临,首先要解决的难题是频谱资源短缺。作为5G中的候选技术全双工(FD)通信允许设备在同一信道上同时进行上下行传输,可以潜在地成倍提升半双工(HD)通信的频谱效率(SE)。在现有硬件设备的条件下,影响全双工通信应用的最大障碍是高强度的残留自干扰(RSI)和同信道干扰(CCI)。全双工通信有两种拓扑模式,其一是双向通信拓扑模式:基站和用户都工作在全双工模式,进行双向全双工通信;其二是三节点拓扑模式:用户由于硬件限制工作在半双工模式,而基站装备自干扰消除(SIC)接收机工作在全双工模式。由于目前用户设备(UE)尚不具备SIC的能力,因此三节点拓扑模式是更实际的系统模型。幸运地是,现有的自干扰消除接收机已经能将自干扰压制到噪声级别,这让全双工通信的实际应用成为了可能。本文首先将全双工通信应用到了单蜂窝网络中,针对三节点拓扑模式,我们提出了一个联合用户匹配、资源块分配以及功率控制问题。由于该问题存在0-1变量,其复杂度是非确定性困难的(NP-hard)。因此,我们首先将离散变量松弛为连续变量,然后采用凹凸性进程(CCCP)的方法得到了问题的上界。此外,为了降低算法复杂度,我们又提出了一种启发式的用户匹配、资源块分配和功率控制算法。仿真结果表明,在降低算法复杂度的前提下,我们所提出的启发式算法的性能逼近CCCP上界算法,且显著高于半双工通信系统。由于全双工通信更适合部署在小基站网络,论文的第二部分将全双工通信应用到多蜂窝异构网络当中。在异构网络中,宏基站部署在宏蜂窝的中心并工作在半双工模式,而随机部署的全双工小基站处于各自小蜂窝的中心。我们研究了全双工异构网络的干扰协调问题,首先引入了小区间范围扩展(CRE)技术,以更好地平衡宏蜂窝和小蜂窝的负载。在此基础上,我们提出了一种基于基站关联、用户匹配、资源块分配和功率控制的小区间干扰协调管理方案(ICIC)。仿真结果表明,我们所提的方案有效地降低了蜂窝之间的干扰,并且相比半双工通信显著的提高了系统容量。最后,本文研究了全双工通信在超密集组网中的应用。在超密集组网中,小基站非常密集地部署在宏蜂窝内部,宏基站只提供网络覆盖,而不与用户直接通信,每个用户都与附近的小基站进行通信。在超密集组网中,小基站的数目接近用户数目,因此,若引入全双工通信,需要新的资源分配方案来最大化系统性能。本文提出了一种全双工超密集组网资源分配方案,该方案主要基于基站关联、模式选择和用户匹配、功率控制和资源块分配。考虑系统容量和用户公平性的折中,我们提出了基于纳什均衡的资源块分配问题,并采用分支定界算法得到了最优的资源块分配方案。最后,本文讨论了实际的X2接口信令并详细阐述了该方案如何通过X2接口进行宏基站和小基站的信令交互。