第五代(The 5th generation,5G)移动通信系统期望在热点高容量区域实现超高数据传输流量密度,满足用户网络流量需求。超密集网络(Ultra-Dense Networks,UDN)在热点区域大量部署低功率传输节点(Transmitpoint,TP),是迅速增强用户速率的有效途径。然而,超密集网络中随着TP密度增大,小区覆盖范围重叠,小区间干扰逐渐增大,网络性能下降。以用户为中心的虚拟小区围绕用户建立覆盖,虚拟小区内多个TP同时为中心用户提供服务,可以解决超密集网络中小区间干扰。本文将对超密集网络中以用户为中心的虚拟小区技术进行研究,抑制虚拟小区间干扰。具体研究内容如下:针对超密集网络中以用户为中心的虚拟小区互相重叠产生干扰问题,本文提出基于重叠合并与波束赋形的虚拟小区干扰抑制方案。合并阶段引入虚拟小区重叠率,根据重叠率大小合并,形成虚拟小区簇;波束赋形阶段,以最大化系统用户速率为目标求解最优波束赋形矢量。仿真结果表明提出的方案可以有效降低干扰,提升系统吞吐量。针对上述超密集网络场景下虚拟小区集中式波束赋形设计带来严重的开销问题,本文继续提出基于分层波束赋形的虚拟小区低开销传输方案。假设将网络内的干扰分层处理,虚拟小区簇内基站间共享完整的信道状态信息,大力度地消除比较严重的多用户干扰;在虚拟小区间共享大尺度信道状态信息,进一步抑制虚拟小区间干扰,提升网络吞吐量。仿真结果表明,该低开销传输方案在降低信道开销的同时还保证了系统用户速率的提升。