蜂窝系统正朝着第五代移动通信系统(fifth generation, 5G)演进。相对于第四代移动通信系统(fourth generation, 4G),5G不仅是简单的在系统峰值速率、频谱效率、移动性和时延等方面有进一步的增强,更注重于用户体验数据速率、区域业务容量、网络能效和连接密度等的提升。为实现国际电信联盟(International Telecommunication Union, ITU)提出的在 2020 年 5G 商用的目标,5G演进需要从无线频谱、业务需求、关键技术着手,在反思当前通信系统和通信技术演进积累经验的同时,积极探索演进思路,筛选出潜在的演进方案。根据思科的预测,全球移动通信业务到2020年将达到2015年业务量的8倍。为应对无线业务量的飙升,网络的密集部署势不可挡。由于设备的廉价、低功率消耗和即插即用等优良特性,小小区成为网络密集部署的主要实现方式。因此小小区网络性能优化理论及技术研究是实现5G演进的强大推动力。为获取小小区网络系统吞吐量、系统能效和公平性性能的提升,.本论文分别对小小区网络中的干扰管理问题、能效优化问题和负载均衡问题展开研究。提出的解决方案不仅是应对当前蜂窝网络面临挑战的有效手段,也对5G演进有重要的借鉴意义。论文的工作及创新点如下。首先,提出了两种适用于小小区网络干扰管理的协作功率控制方案来达到提升系统吞吐量的目的。第一种是基于资源块排除的协作功率控制(resource block exclusion based power control, RBEBPC)方案。RBEBPC方案包括两个相互迭代的步骤:(1)根据当前功率分配结果,通过求解构建的联盟形成博弈排除部分系统资源块;(2)根据资源块排除结果,每个小小区通过求解一个修正的吞吐量最大化问题,控制自身发射功率。由于在第二步中对生成干扰进行了限制,部分小小区没有使用满功率发射。整个系统的干扰在RBEBPC方案中保持不增。第二种方案是基于干扰分配的功率控制(Interference Allocation based Power Control, IAPC)方案。IAPC方案重复执行如下两个步骤:(1)中心节点求解一个典型联盟博弈,确定每个小小区允许生成的干扰量;(2)在保证生成干扰不超过允许生成干扰量的条件下,每个小小区通过求解吞吐量最大化问题来控制每个子信道上的发射功率。IAPC方案可以保证系统的总生成干扰以递减方式收敛。其次,分别提出了通过功率控制和小小区开关两种技术实现回传链路受限的小小区网络能效优化方案。在基于功率控制的小小区网络能效优化方案中,首先考虑回传链路没有固定开销、每个小小区仅服务一个用户的简单场景。进一步,将基于功率控制的能效优化方案扩展到回传链路有固定开销、每个小小区服务多个用户的场景。提出的基于功率控制的能效优化方案通过迭代方式执行如下操作:(1)根据后向链路提供的数据速率,通过控制前向链路的发射功率,减少干扰,实现系统前向链路在不增加发射功率前提下的系统吞吐量的提升;(2)通过优化后向链路的数据速率分布,实现与前向链路数据速率的匹配。所提基于功率控制的系统能效优化方案能够保证小小区网络系统能效以单调不减的方式收敛。在基于小小区开关的能效优化方案中,首先打开能够满足所有用户数据速率需求的最少的小小区基站。然后依次打开能够提升系统能效的小小区和用户对,从而保证系统能效递增至某一稳定值。所提基于小小区开关的系统能效优化方案表明,在考虑回传链路的影响下,最优系统能效并非总是在打开最少的小小区时获得。最后,为保证小小区网络的公平性能,给出了一种负载定义方法,重新构建和求解了小小区网络负载均衡问题。小小区的负载定义为接入该小小区所有用户的需求数据速率与对应用户获取数据速率比值中的最大值。该定义能够表征小小区节点服务能力和用户需求的匹配程度。基于该定义,将小小区负载均衡问题构建为基于字典序的向量优化问题。通过分析所构建问题性质,得出了系统负载向量的下界,提出了一种低复杂度的逼近系统负载均衡界的解决方案。