随着移动互联网的高速发展,大量新的无线设备正在快速接入到移动网络中,这些设备对于网络的流量和实时性都有很高的要求。为了应对成千倍增长的流量需求,在新兴的第五代（5G）移动通信系统中,研究人员提出了超密集网络（UDN）的概念作为支撑流量快速增长的关键技术领域之一。UDN网络通过在覆盖区域内布置大量低功耗、低成本的小的无线接入点（AP）,并将这些接入点通过有线或无线的方式与基站（BS）相连接来为区域内用户提供服务。这种方式比传统的小区分裂更为高效、划算,但是也带来了小区间干扰增强等一系列问题。这种部署方式下AP的密度甚至会超过服务用户的密度,这就需要采用一些调度算法来减轻微小区之间的干扰。我们主要研究了在这样一种UDN网络场景下,如何进行接入链路的波束成型向量（beamformer）与回传链路资源分配的联合优化,以降低干扰并使得整个网络的性能达到最优。首先我们建模了一个单个BS,多个AP为多个用户组提供多播服务的网络模型,并将其建模成了一个接入链路的波束成型向量设计和回传链路的资源分配的联合优化问题。这个优化问题是非凸的,并且存在离散变量与连续变量混合的问题。为了简化这个问题,我们引入了连续凸近似与重新加权的l₁范式方法,将其转换成了一种更易解的形式,并且提出了相应的迭代算法。然后,为了进一步提升网络通信效率,我们研究了通过在AP处添加辅助缓存来提升系统的通信效率。在这种情况下我们将该系统建模成了一个最小化服务时间的优化问题,并将该问题按照链路层级分解成了接入链路与回传链路这两个子问题。回传链路的问题可以通过线性规划求解,接入链路的问题可以通过连续凸近似与重新加权l₁范式来求解。最后我们提出了解决该问题的两层迭代算法,并且进行了详尽的仿真测试。