随着移动智能终端数量的持续增长以及多样化移动新业务应用的推广,高速率无线数据传输需求爆炸式增加。未来第五代无线网络(the fifth Generation,5G)须大幅提升频谱利用率从而满足市场传输需求。致密化组网通过增加基站部署密度方式,提升频谱资源利用率是未来5G通信的关键方案。基于资本和运营支出考虑,业界普遍认同在传统宏蜂窝网络基础上部署低功率基站形成的异构网络(Heterogeneous Networks,Het Nets)是提升频谱资源空间利用率的高效方式。由于频谱资源稀缺,异构网络采用同信道部署方式。然而,严重干扰和负载不均衡明显限制了异构网络性能,需采用有效的资源管理技术予以解决。虽然业界针对异构网络已提出改善网络覆盖及频谱效率的资源管理方案,但网络各参数对性能的影响以及资源最优配置仍没有明确量化。其次,由于密集网络能耗巨大,研究能效资源管理方案降低排放具有现实意义。此外,由于低功率基站无规划部署,传统网格模型不再适用,建立通用、易处理且能捕捉基站随机部署特性的网络模型亟待解决。针对以上问题,本文分别针对稀疏和超密集部署异构网络场景,应用随机几何理论建立异构网络理论模型,以提升异构网络信干噪比(Signal-to-Interference-plus-Noise-Ratio,SINR)覆盖、数据速率及能量效率为目标,展开异构网络资源管理技术及性能研究,主要研究工作和创新包括:第一,回程受限异构网络中小区范围扩张及子信道分配性能分析。基于正交频分多址(Orthogonal Frequency Division Multiple Access,OFDMA)异构网络场景,采用小区范围扩张(Cell Range Expansion,CRE)技术促进负载平衡,同时基于多信道分配方式消除跨层干扰。为了捕捉基站随机部署特性并获得易处理解析结果,建立了回程受限异构网络通用理论模型。在考虑蜂窝负载分布及通用的信道模型基础上,合理建模OFDMA网络干扰,并利用随机几何理论推导网络SINR覆盖、速率覆盖及能量效率解析式。利用蒙特卡洛仿真验证解析结果的正确性。基于解析结果,进一步分析连接偏置及资源分配系数对网络性能的影响,并获得速率覆盖性能最优的用户连接偏置和资源分配系数以及能量效率最优的基站部署密度。第二,Fe ICIC异构网络资源分配联合优化。针对OFDMA异构网络,基于联合Fe ICIC(Further enhanced inter-cell interference coordination)和CRE方案,建立联合用户连接、功率控制及资源分配方案理论模型。利用随机几何理论推导两层回程受限异构网络SINR覆盖及速率覆盖解析表达式。利用蒙特卡洛仿真验证解析结果的准确性。进一步分析网络各参数对网络性能的影响,研究速率覆盖性能最优的网络参数配置。此外,基于网络传输需求,引入自适应基站休眠技术,推导能量效率和频谱效率解析表达式。为了创建频谱和能量有效的异构网络,针对频谱和能量效率多目标联合优化问题,提出Dinkelbach迭代和梯度下降低复杂度联合优化算法,获得频谱和能量效率折衷的资源分配联合优化方案。第三,位置感知跨层协作异构网络性能研究。基于稀疏低功率基站部署的异构网络场景,针对蜂窝边缘区域严重跨层干扰问题,提出位置感知跨层协作(Cross-Tier-Cooperation,CTC)方案。引入协作因子灵活调节协作范围,建立位置感知跨层协作通用模型,利用随机几何理论推导网络SINR覆盖及遍历容量解析式,并验证解析结果的准确性以及跨层协作方案的有效性。进一步研究了协作因子对异构网络性能的影响,并提出了协作因子选择策略,为协作传输系统设计提供理论指导。第四,跨层群簇协作异构网络用户连接策略研究。基于低功率基站超密集部署异构网络(Ultra-Dense-Het Nets,UDHs)场景,针对跨层及同层严重同信道干扰问题,提出以用户为中心的跨层群簇协作传输方案。利用随机几何理论推导超密集异构网络SINR覆盖和遍历容量解析式,并量化基站回程容量需求,推导网络成功服务概率及有效遍历容量解析式。进一步研究基站部署密度、回程容量及协作群簇大小对有效遍历容量的影响,并提出最优群簇协作策略。