由于无线频谱资源稀缺,且频谱利用率普遍不高,如何提高频谱利用率、提升用户吞吐量以满足人们对于高速数据传输的需求,是目前无线通信要解决的关键问题。提高系统频谱利用率会导致小区边缘用户受到来自相邻小区的共道干扰,降低系统整体性能;在宏蜂窝网络中部署低功率节点,能够缩短用户与接入点之间的距离,提升系统吞吐量,但是不同功率的接入点的重叠覆盖导致系统内部干扰的恶化,成为制约网络性能的重要因素。因此,如何有效地抑制干扰,提高系统频谱效率是本文研究的重点。本文首先对基于干扰对齐(Interference Alignment,IA)与干扰中和(Interference Neutralization,IN)的协作多点(Coordinated Multi-point,CoMP)传输机制进行介绍,通过基站之间协作,在发送端设计预编码实现IA与IN,在接收端采用迫零接收消除剩余的干扰,并恢复期望数据。本文所提的基于干扰对齐(IA)与干扰中和(IN)的协作多点(CoMP)传输机制(IAN-CoMP),仅需基站侧协作,能够有效的抑制和消除干扰,实现多路数据的并发传输。在一般化的通信场景中,如发送端和接收端的天线数、参与协作的基站数以及可同时服务的用户数目等变化时,对于IAN-CoMP机制进行扩展设计。此外,本文所提方案可以在协作开销与系统可达自由度之间折中。仿真结果表明,IAN-CoMP机制能够有效地提高小区边缘用户的频谱效率。接下来,本文针对宏蜂窝与微微蜂窝共存的混合蜂窝网络下行通信系统,在考虑路径损耗、基站之间的距离、基站发射功率差异等实际因素的前提下,提出一种基于多维资源的联合自适应干扰管理机制,对微微蜂窝用户受到的来自宏基站的干扰进行管理。首先对干扰管理的效率进行定义,在此基础上给出自适应干扰管理的准则。接下来以干扰中和和迫零接收为例,进行联合自适应干扰管理机制的设计。理论分析与仿真结果表明,通过综合利用多维资源,所提机制避免了单一的干扰管理方法对特定资源的依赖,并且能够在不影响宏蜂窝用户通信的前提下,显著改善微微蜂窝用户的频谱效率。最后对本文的研究工作进行总结,并制定下一步的工作计划。