移动通信网络面临着无线流量需求快速增长带来的网络建设和运维成本以及能耗增加的巨大挑战。如何在满足无线流量需求的同时降低网络能耗、减少网络部署和运维成本是下一代移动通信网络需要解决的关键问题。密集部署异构网络、大规模多天线多入多出技术(Massive MIMO)、D2D通信、C-RAN架构、软件定义网络(SDN)和网络功能虚拟化(NFV)等有潜力应对上述挑战的技术得到了学术界和工业界的广泛关注和研究。本论文以降低下一代移动通信网络部署成本和运维成本、减少网络能耗、增加用户接入能力和提高系统容量为目标,研究下一代移动通信网络若干关键技术,包括下列几个方面:1.异构网络规划近似算法设计;2.C-RAN远程射频设备休眠方案和用户关联策略;3.D2D通信网络资源分享方案。主要工作包括:1.研究了异构网络规划问题,以最小化总建设成本和网络能耗为目标,设计了针对不同无线场景的网络规划近似算法。首先,针对单层宏基站规划,提出了O(log R)-近似算法,其中R为宏基站可以提供的最大传输速率。然后,基于单层宏基站规划近似算法分析,提出异构网络规划O(log R)-近似算法,其中R为宏基站和在其覆盖范围内低功耗接入节点可以提供的最大传输速率。最后,仿真结果验证了提出的异构网络规划方案可以降低建设成本,减少网络能量消耗。2.研究了C-RAN中远程射频设备休眠和用户关联问题。以最小化C-RAN总功率消耗、平衡传输网络功率消耗和发射功率为目标,研究了基于流量密度的远程射频设备休眠方案,其中归约的优化问题是经典优化问题容量受限设施定位问题的一般形式。本论文提出了高效的局域搜索算法,包括:“添加”、“开启”和“关闭”三个局域搜索操作,并证明可以通过该三个局域搜索操作找到一个局部最优解。接着,以最大化激活的远程射频设备用户接入率为目标,研究了 C-RAN中用户关联问题并设计了一个1/2-近似算法,提出的用户关联策略不仅考虑了用户和远程射频设备之间的信道增益,而且充分考虑了用户速率需求和远程射频设备可用带宽,具有普遍适用性。3.研究了D2D通信网络资源分享问题,其中每个子信道可以由多个D2D对和单个蜂窝用户使用,从而利用D2D对空间复用进一步增加蜂窝系统容量。首先设计了子信道分配规则来抑制子信道上D2D对之间的互干扰,并提出子信道分配和功率分配以最大化D2D对传输速率。然后提出了一个轮换迭代算法,通过轮换优化子信道分配和功率分配来最大化系统容量。最后,仿真结果表明提出的D2D通信网络资源分享方案可以抑制D2D对之间的互干扰并提高系统容量。本论文针对下一代移动通信网络若干关键技术进行了较为深入的理论分析与研究,对于降低网络能耗、减少网络营运成本以及提高系统性能具有较为重要的现实意义。