物联网和移动互联网的飞速发展推动了用户对更高速率、更大数据流量、更密集的网络覆盖的需求,第五代移动通信系统(the 5th Generation mobile communication technology,5G)也应运而生。5G系统要求更高的网络容量和更好的网络覆盖,而超密集网络(Ultra Dense Network, UDN)作为有效的解决网络无缝链接的部署方案,已经被公认为5G通信系统的关键技术之一。相比于传统的宏基站部署,超密集网络具有很多优势：小区由用户部署,减少了成本；配置灵活,而且可以达到提高能效的目的；密集部署可以彻底解决覆盖盲区问题,实现用户无缝连接的需求。但是,随着网络的密集化部署,UDN也面临着一些技术挑战,比如用户的接入选择、小小区(Small Cell, SC)间的干扰、用户的移动性、无线资源的利用等问题,这些技术问题也亟待解决。本文针对超密集网络中的无线资源管理问题进行了研究。首先,针对用户选择小小区的接入问题,提出了基于一级价格密封拍卖博弈的方法；其次,针对小小区间干扰的问题,提出了基于几何规划的分布式无线资源管理方法。本文的主要研究内容和创新点如下：1.本文提出了基于一级价格密封拍卖博弈的分布式小小区选择机制。分别建立了小小区基站和用户的效用函数,并把运营商(Service Provider, SP)对参与拍卖的小小区基站的奖励加入到小小区基站的效用函数中,把用户的接入权作为拍卖商品,把用户作为拍卖商并行使选择权。该算法从用户角度出发,保证了用户较好的服务质量(Quality of Service, QoS)和用户体验,提升了用户感知能力,仿真结果证明了该算法的有效性和优势。2.本文在无线资源分配算法中提出的最优化目标函数,引入了时延约束条件,并可以根据优先级、服务质量需求等条件来设置时延约束值的大小。该方法有效地保证了用户的服务质量。仿真结果表明了该时延限制条件在保证用户服务质量方面的有效性。3.本文提出了基于几何规划的分布式无线资源分配方案。不同于传统的由宏基站执行的集中式资源分配方案,本文针对超密集网络系统容量最大化的目标函数,使用几何规划的数学方法建立了由每个小小区基站实施的分布式子载波分配和功率分配问题。该分布式方法在实际应用时,不仅降低了宏基站的大量信令开销,也符合现代通信网络的扁平化发展方向。仿真结果证明了该分布式资源分配的有效性。