异构蜂窝网,由传统的宏蜂窝与叠加的小蜂窝网络组成,能够以较低的功耗提高蜂窝系统的覆盖率与服务质量(QoS)。其中,干扰管控问题是异构蜂窝网面临的主要挑战之一。正交频分多址接入(OFDMA)因其在频谱分配的灵活性以及对多径信道的健壮性,被广泛用于异构蜂窝网络。然而,在OFDMA异构蜂窝网络中,宏用户(MU)信号受宏蜂窝基站(MBS)调度在MBS保持同步,其信号到达小蜂窝基站(SBS)就很难在时间上同步,这就会导致SBS接收机在快速傅立叶变换(FFT)解调时产生载波间干扰(ICI)与符号块间干扰(IBI)。本文首先研究了ICI与IBI对小蜂窝系统性能的影响,并且根据两层网络用户之间收发机设计有无协作,提出了新颖的缓解乃至消除ICI与IBI的方案。此外,本文还研究了OFDMA异构蜂窝网中,小蜂窝最优上行信道接入与下行分布式功率控制方案。本文的主要贡献如下：(1)分析了单径信道下由于MU信号不同步导致的ICI与IBI对小蜂窝上行性能的影响。首先,推导了MU信号到达小蜂窝时间的累积分布函数(CDF),仿真结果验证了理论值推导的精确性。基于CDF,推导了在两种同步方式下MU信号离散相对时延的分布律与小蜂窝上行ICI与IBI发生的概率。并据此在系统上行采用部分功率控制方案时,推导了小蜂窝上行受到的平均ICI与IBI功率,这一理论结果为分析小蜂窝各个子载波的信干噪比(SINR)、容量和误符号率(SER)提供了便利。仿真结果与理论分析完全吻合,这些分析为评估ICI与IBI对不同位置小蜂窝性能的影响提供了坚实的理论基础。(2)分析了多径信道下小蜂窝上行由MU导致的ICI与IBI统计特性。首先,给出了在部分功率控制与多径衰落信道下小蜂窝上行ICI与IBI表示式,并根据MU随机分布函数与其到小蜂窝的信道分布信息推导了ICI与IBI的协方差矩阵闭合表达式,由此可以直接得到小蜂窝上行每个子载波上平均ICI与IBI的功率。其次,还推导了小蜂窝上行每个子载波的容量与SER的闭合表达式,仿真结果验证了理论推导的准确性。实验结果还显示,ICI与IBI导致小蜂窝上行性能产生了较大的降级,尤其在大SNR区域出现了严重的平台效应。(3)提出了一种缓解小蜂窝上行ICI与IBI对容量性能影响的方案,该方案中MU与SU之间没有协作预编码设计。提出的方案通过SU预编码与SBS均衡器的联合设计,使得小蜂窝各个子载波上的信号解相关。在三种不同反馈场景下,根据ICI与IBI的协方差矩阵与SU到SBS的信道状态信息,设计了不同子载波维度的预编码矩阵使小蜂窝的容量最大化。蒙特卡罗仿真表明：相比于没有联合收发机设计的情况,新方案可以显著提高系统的容量性能。具体地,使用所有子载波维度进行预编码的设计方案可以获得最好的性能,而且仅仅只有MU位置信息反馈时,提出的方案也呈现出较好的特性。(4)提出了一种基于干扰对齐技术完全消除小蜂窝上行ICI与IBI的方案,该方案可以确保两层异构蜂窝网络中所有的数据流没有ICI与IBI。在新设计的方案中,通过在平行子载波上的预编码设计,将ICI与IBI压缩到一个不大于宏蜂窝总的发送数据流数目的子空间中,这样在小蜂窝接收端通过简单的迫零操作就可以完全消除ICI与IBI,且不影响小蜂窝总的发送数据流数目。仿真结果显示,提出的方案可以消除小蜂窝上行容量的平台效应,将系统自由度(无干扰传输数据流数)提升到系统总的子载波数目。该方案使用了MU与SU之间协作预编码设计来消除ICI与IBI,因此可以获得比无协作时更好的性能。(5)提出了一种最优的基于认知小蜂窝上行信道接入方案来随机避免同频干扰,使OFDMA异构蜂窝网的平均吞吐量最大化。该方案考虑了上行部分功率控制与自适应传输技术,推导了在不完美频谱感知情况下两层异构蜂窝网络的平均吞吐量,并据此推导了小蜂窝网络最优的上行信道接入概率。仿真结果验证了理论分析的有效性,且在推导过程中同时考虑了小蜂窝、MU与SU的空间随机性,因此推导的结果相对于用户位置的移动变化是健壮的。(6)提出了一种分布式自适应功率控制算法来缓解异构蜂窝网中下行同频干扰。提出的方案包括三个步骤：首先,根据最大化使用相同信道资源小蜂窝之间距离的准则,对使用相同子信道的小蜂窝进行分簇来缓解同层干扰;其次,将MU划分到小蜂窝簇中,根据最大最小MU与小蜂窝簇之间的距离准则来缓解跨层干扰；最后,根据相邻用户SINR等级的反馈信息,自适应分布式地调整每个小蜂窝的发送功率来进一步提高系统的性能。仿真结果显示,提出的方案在保证宏蜂窝QoS的同时,可以显著提高小蜂窝成功传输的比例与中断容量。