移动互联网的飞速发展使得传统的蜂窝网络已经无法满足终端用户对网络速率的需求。为了向用户提供无处不在的网络覆盖,更高的速率和稳定的通信质量,第五代移动通信系统(the 5th Generation mobile communication technology,5G)应运而生。超密集网络(Ultra Dense Network,UDN)作为5G通信系统的关键技术之一,通过在热点区域大规模部署小基站,能够有效满足5G网络的覆盖需求和系统容量。虽然部署小基站可以在热点区域分流大量的用户业务,大大减轻宏基站的负载,弥补宏基站的覆盖盲区,但是UDN的密集部署也为无线资源管理工作带来了巨大的挑战。例如干扰管理,功率控制、频谱资源分配等问题。本文主要针对超密集网络中的无线资源管理问题进行研究。首先,针对超密集网络中小区干扰问题,研究了一种基于分簇的资源分配方案;其次,针对频谱资源优化问题,研究了一种混合频谱资源分配方案。本文的主要研究内容如下:第一,针对超密集网络中Femtocell间的同层干扰以及跨层干扰问题,提出了一种改进的基于小区分簇的资源分配方案,该方案主要分成两个部分:第一部分考虑到MUEs速率需求的重要性,通过循环子信道分配算法为MUEs分配信道,再利用注水算法分配功率;第二部分在保证MUEs速率的基础上,采用改进的蚁群优化算法(ant colony optimization,ACO)对FBS分簇,避免陷入局部最优解,紧接着利用启发式算法对簇内用户进行子信道分配和功率分配,在分簇的基础上进一步进行信道和功率分配。经仿真验证该方案有效抑制了超密集网络中的干扰,满足了用户的速率需求,提升了用户满意度和公平性。第二,针对超密集网络中频谱效率优化问题进行研究,提出了一种基于频谱共享与频谱分离的混合资源分配方案。方案分为两步,第一步首先通过干扰图对FBS分簇,距离MBS近的FBS簇与MBS采用分离频谱的资源分配机制,距离MBS远的FBS簇与MBS采用共享频谱的资源分配机制;第二步在FBS簇内利用拉格朗日对偶求解法为簇内FUEs分配资源,包括子信道分配和功率分配。经仿真表明该方案能够保证用户公平性,有效提升频谱效率和系统容量。