数据业务的爆炸式增长驱动着蜂窝移动网络结构从以前的单层网络到未来的多层异构网的演进。在传统的宏蜂窝覆盖区域上，通过部署微微蜂窝和家庭基站分别为室外热点地区和室内提供高速网络服务。由于频谱资源的稀缺性，蜂窝移动异构网期望采用全频率复用。然而频率复用会带来严重的同频干扰。因此，根据蜂窝异构网的特点设计出一系列行之有效的干扰管理解决方案是未来蜂窝异构网成功部署的关键。　　异构网络中的干扰分为同层干扰（如宏蜂窝小区之间的干扰和家庭基站小区之间的干扰）和跨层干扰（如宏蜂窝和微微蜂窝以及家庭基站之间的干扰）。异构蜂窝网络的异构性主要体现在以下几个方面：发射功率（覆盖范围）、基站天线数、网络拓扑和回程链路。例如，宏蜂窝小区通常是由移动运营商规划部署且小区与小区之间通过光纤相连；而家庭基站则是由用户随机密集部署且直接接入基于IP的有线回程网络。这种网络结构上的差异会导致对所采用的干扰管理技术有不同的要求。由于该有线回程网络时延较大，这会使得实时的信息交换无法实现。因此，传统的基于资源联合优化的宏蜂窝干扰协调技术无法直接应用到家庭基站网络。　　考虑到蜂窝移动异构网的特点，本博士论文提出了一系列干扰管理策略。首先，针对宏蜂窝小区间同层干扰，提出了一种基于几乎空白子信道动态调度的干扰协调方案。其次，针对家庭基站小区间干扰，提出了基于博弈论的主信道自主配置算法。第三，针对D2D的干扰管理，提出了一种基于服务质量（QoS）的资源分配算法。最后，针对跨层干扰，我们提出了一种基于大规模天线的干扰减轻方案。　　本文在国家自然科学基金重点项目“无线网络的干扰管理与容量研究”（61231008），“高等学校创新引智计划基金资助项目”（B08038），“国家重点实验室专项基金”（ISN1002005，ISN090305），长江学者和创新团队发展计划（IRT0852）的共同资助下，主要的贡献和结果如下：　　1、传统的以小区为协调对象的静态软频率复用会严重降低小区吞吐量，尤其是当相邻小区间负载非均衡时更为严重。针对这一问题，本论文提出一种基于几乎空白子信道（Almost Blank sub-Channel, ABC）动态调度的分布式干扰协调方案。每个小区根据邻小区用户所受干扰情况自适应决定需要调度的ABC资源数。考虑到小区间干扰协调的耦合关系，设计了ABC资源映射规则，来实现同类型小区间ABC资源对齐，从而最小化每个小区所需调度的ABC资源数。结合所给出的用户调度及资源分配算法，仿真表明该干扰协调方案不仅可以有效降低小区间干扰并提升小区吞吐量，而且适用于负载非均衡的情况。与现有动态干扰协调算法不同，该干扰协调方案具有分布式和信令开销小等优点。　　2、密集随机部署的家庭小区给干扰管理带来新的挑战。通过扩展宏蜂窝下软频率复用，本论文提出一种基于自适应频率复用的准静态干扰协调方案，其包括基于博弈论的分布式主信道自配置和小区资源分配两个算法。不同于宏蜂窝的软频率复用，每个家庭基站需要根据本地干扰图来决定最优的频率复用因子以最大化频率复用。针对传统的序列最优反应算法存在收敛速度慢的缺点，本论文提出了一种快速主信道自配置算法，显著提高了算法的收敛速度。通过仿真对比，文中提出的自适应频率复用方案不仅能够明显降低小区间干扰，而且具有分布式、可扩展性、低信令开销、低复杂度等优点。　　3、假设每条D2D链路都有最小速率要求且每条链路只能使用一种调制编码方式，将D2D资源分配建模成以最小化总发射功率为目标的优化问题。为解决该NP-hard优化问题，将原问题分解成子信道分配和链路自适应两个子问题。给定每条链路的发射功率和资源需求数以及宏蜂窝用户的资源分配结果，本论文首先提出了一种基于博弈论的子信道分配算法。然后根据每条D2D链路的最小速率要求，提出了一种链路自适应算法。仿真结果表明所提D2D资源分配算法要优于其他对比方案（注：不包括贪婪算法,但贪婪算法复杂度非常高）。　　4、为了减轻跨层干扰，3GPP提出了一种基于空白子帧的干扰协调方案。然而该方案也同时降低了频谱资源利用率。考虑到下一代蜂窝移动网络中宏基站配备有大规模天线阵列，可以利用宏基站部分自由度（DoF）来主动抑制跨层干扰。由于在传统的TDD模式下难以实时获取干扰协方差矩阵，我们设计一种非对称TDD模式，即宏小区进行下行（上行）传输时，下层网络进行上行（下行）传输。从而宏基站可以利用信道的互异性来准确估计出基站间干扰协方差矩阵并依此设计宏基站的最优预编码矩阵。另外，本论文提出一种联合用户关联和资源分配算法来减轻宏蜂窝用户与微微蜂窝用户之间的干扰。为了评估非对称TDD跨层干扰减轻方案的性能，我们给出了该方案与同信道TDD和正交TDD三种方案的性能对比。仿真结果表明基于非对称TDD的跨层干扰减轻方案的性能明显要优于其他两种方案。