移动网络和物联网的高速发展引发了人们对于更高传输速率、更高通信质量以及更好服务体验的不断追求,不断涌现的新型数据业务推动了第五代移动通信系统的发展。超密集网络(UDN)作为5G的一项关键技术成为了研究的热点,低功率接入点的密集部署提高了频谱资源的利用率,成为5G提升系统容量的主要手段。超密集网络中,低功率接入点密集部署,拉近了基站与用户间的距离,但网络结构变得越来越复杂,基站的部署更加随机化,对干扰管理方案发起了新的挑战。如何有效降低超密集网络中的干扰,是本文的主要研究内容。现有的干扰管理方案有干扰消除、干扰随机化、干扰协调等,这些方案能够有效地解决传统蜂窝网络中的干扰问题。但是在超密集网络中,频谱资源有限,接入点的部署趋于随机化,干扰变得异常复杂,因此,现有的干扰管理方案不能直接用于超密集网络中。本文从频率复用和功率控制两个方面对干扰进行抑制。本文的主要工作如下:(1)介绍了超密集网络的关键技术及面临的挑战,需要提出更先进的干扰管理方案来抑制干扰。(2)提出了基于HII/OI的动态软频率复用算法。首先对于超密集网络中的干扰进行了分析,建立了场景模型。然后针对固定软频率复用算法浪费频谱资源这一缺点,提出了一种动态频率复用算法,该算法将小区边缘频段进一步划分为主控频段、优先频段、借用频段,通过高干扰指示(HII)和过载指示(OI)完成对边缘频段的调度。最后通过仿真得到了一种最佳的边缘频段划分比例,同时表明该算法有效地抑制了小区间干扰,提高了系统吞吐量。(3)提出了基于非合作博弈论的功率控制机制。首先介绍了超密集网络场景,在该场景中加入了网络干扰控制器(NIC),该控制器能够对用户的干扰基站制定不同的干扰价格。然后通过博弈论的相关知识,以系统整体的吞吐量为优化目标,将功率控制过程抽象为一个非合作博弈的过程。最后通过仿真验证,说明该机制达到了很好的效果,在不影响用户通信质量的前提下,抑制了用户间的干扰。