作为第五代移动通信网络(5th generation mobile networks,5G)关键技术之一,超密集网络(ultra-dense networks,UDN)通过在空间中部署大量低发射功率的小基站以减小基站的覆盖范围,从而提高网络频谱资源的空间复用效率。然而,随着小基站空间分布密度的增加,网络中的干扰变得更加严重和复杂。在由超密集部署的小基站、宏基站构成的双层异构超密集网络(heterogeneous ultra-dense networks,HetUDN)中,由于宏基站的发射功率较大,大量用户选择宏基站接入,造成宏基站严重过载。把宏基站层小区边缘用户卸载到小基站层,虽然均衡了小基站层和宏基站层之间的负载,但卸载到小基站层的用户由于受到宏基站的严重干扰,其接收信号的信号干扰噪声比(signal to interference plus noise ratio,SINR)非常低,使得网络整体性能进一步急剧下降。在5G无线网络中,随着小基站空间分布密度的增加,小区间干扰协调(inter-cell interference coordination,ICIC)的研究重点也从不同层的ICIC转移到同层的ICIC。为了协调网络中的ICIC,特别是同层的ICIC,平衡网络不同用户之间的性能,本文解决方案如下:首先,本文基于空间泊松点过程(Poisson Point Process,PPP)对由超密集分布的小基站构成的单层无线UDN下行链路,以及由超密集分布的小基站、宏基站构成的双层无线HetUDN下行链路进行建模,分析并推导出用户到不同基站距离的空间分布、计算出用户接收到不同基站信号强度的期望、接收信号信号干扰比(signal to interference ratio,SIR)的期望,以及单层UDN和双层HetUDN的频谱效率(spectral efficiency,SE)。通过PPP对无线UDN中的小区间干扰进行建模和分析,从数学上为UDN进行ICIC提供了理论依据。其次,在双层HetUDN中,大量宏基站边缘用户被卸载到小基站层,宏基站覆盖范围减小。因此,通过降低宏基站的发射功率以及在网络下行链路进行分数功率控制(fractional power control,FPC)策略,协调小基站层用户和宏基站层用户之间,以及同一层小区边缘用户和内部用户之间的干扰。为了实现这一目标,通过空间PPP对本文提出的三种FPC方案建模,分析并推导出用户接入网络成功概率的b阶矩。结合用户接收信号SIR的M eta分布,从而获取网络的覆盖概率(用户接入网络成功概率的一阶矩)及其方差、用户在给定SIR门限值下接入网络成功概率大于某个值的用户比例、用户本地时延的均值,并进一步通过网络单位面积频谱效率(area spectral efficiency,ASE)及能量效率(energy efficiency,EE)对网络性能进行评估。特别地,在第三种FPC中,通过参数的特殊设置,把双层HetUDN同构为单层UDN。数值分析及蒙特卡洛仿真结果表明,该策略在付出极小代价的基础上,能够获取较好的网络性能。最后,根据冯洛诺伊小区(Vonoroi cell,VC)中用户干扰主要来自临近基站,特别是第二近基站这一特性,提出了一种在用户第一近基站(目标基站)和第二近基站(主要干扰基站)之间带有功率调整的分布式联合资源分配策略。该策略通过降低VC边缘用户第二近基站的干扰,实现边缘用户和内部用户的干扰协调,从而提高边缘用户接入网络的成功概率。通过空间PPP对所提策略进行建模,分析并推导出用户接入网络成功概率的b阶矩。结合用户接收信号SIR的Meta分布,从而获取网络的覆盖概率及其方差、用户在给定SIR门限值下接入网络成功概率大于某个值的用户比例、用户本地时延的均值,并进一步通过网络ASE及EE对网络性能进行评估。本文基于空间泊松点过程对无线UDN网络行建模分析,提出了三种基于FPC的功率控制策略,以及一种基于功率控制的分布式联合资源分配策略来管理和协调不同层,以及相同层的小区间干扰(inter-cell interference,ICI),从而平衡小区边缘用户和内部用户的性能。结合SIR的Meta分布,通过用户接入网络的成功概率及其方差、用户在给定SIR门限值下成功概率大于某个值的分布比例、网络ASE及EE对所提策略进行评估。数值分析和蒙特卡洛仿真结果表明,本文所提策略在轻微牺牲小区内部用户利益的前提下,能够大大地提高小区边缘用户的性能。特别地,由于采用功率控制策略,网络的EE被极大地提高。