为了支持未来爆炸性增长的移动用户数目并满足不断提升的高速数据业务需求,新一代无线网络将呈现高密度布设的小基站(家庭基站/微微小区/中继节点)+微小区+宏小区的异构多层蜂窝网络形态。在异构蜂窝网络(HCN,Heterogeneous Cellular Network)中,同层小区以及不同层小区之间干扰的存在制约了网络性能的进一步提升。因此,如何设计高效的资源分配机制来有效克服干扰的影响成为异构蜂窝网络中的一个重要研究方向。目前,为了以低开销获得优质的网络性能,自配置、自管理的分布式资源分配方式已成为异构蜂窝网络中的关键技术。而作为一门分析与处理智能的理性决策者之间冲突与合作行为的学科,博弈理论被认为是用于研究分布式资源分配问题的有效工具。基于以上原因,本文将围绕如何提升网络中的整体容量、用户的满意度以及数据传输的能量效率这三个关键性能指标为切入点,使用博弈理论研究异构蜂窝网络中分布式资源分配机制的设计问题。主要内容如下:1、提出了一种完全分布式的子信道分配策略,并证明了其在提升网络整体容量方面的有效性。在正交信道布设的异构蜂窝网络中(规避了宏蜂窝与毫微微蜂窝Femtocell之间的层间干扰),如何利用子信道分配技术有效缓解Femtocell间的相互干扰,是提升网络整体容量的核心问题。本文第二章将该问题建模为一个非合作速率最大化博弈模型,并设计了一种完全分布式的子信道分配算法。由于执行该算法时无需在不同Femtocell之间引入信令交互,因此其更加适用于具有随机布设特性以及回程链路容量有限的Femtocell网络。随后,在给定条件下证明了所提出算法可以渐进收敛到所研究问题的一个帕累托有效解。更为重要的是该算法无需对所构造博弈模型中纳什均衡(NE,Nash Equilibrium)的存在性提出严格要求,因此在普适条件下依然具有良好性能。2、提出了一种联合子信道分配与功率控制的分布式传输控制机制,并证明了其在提升用户整体满意度方面的有效性。对于使用正交信道布设机制的异构蜂窝网络,在随机布设的Femtocell中满足用户业务需求、提升其数据传输速率的同时,如何设计合理的资源分配机制进一步提升系统整体性能,是一个具有挑战性的问题。本文的第三章针对该系统研究了分布式子信道选择以及功率控制问题,首先基于Femtocell网络中用户速率需求可能无法同时满足这一事实,利用S函数刻画了用户的满意度(效用)并将该问题建模为一个非合作的传输控制博弈模型。其次,提出了一种基于效用的全分布式传输控制算法。最后,通过理论分析证明该算法在给定条件下可以渐进收敛到所研究问题的一个全局有效解,并且无需要求此解为所构造博弈模型的一个NE。所设计算法具有更快的收敛速度并能够有效提升网络中的用户满意度及传输容量。3、提出了一种分布式子信道与功率资源的联合分配策略,并证明了其在提升数据传输能量效率方面的有效性。对于同信道布设的异构蜂窝网络,在保障宏蜂窝用户QoS的条件下,如何设计有效的资源分配机制缓解层间干扰、提升数据传输的能量效率,成为绿色通信研究中的一个关键问题。本文的第四章针对上述场景将子信道与功率资源的联合分配问题建模为一个具有耦合约束的混合整数多目标非凸优化问题。为求解该问题,首先通过连续化松弛整数变量构造了一个具有带宽定价的非合作博弈模型,设计了一个分布式算法以获取该模型中具备帕累托有效性的NE。随后,针对原问题,兼顾公平性以及有效性、提出了相应的分布式资源分算法。所提出算法将子信道与功率资源的联合分配问题转化为一维的定价因子搜索问题,降低了问题求解的复杂度。此外,分析表明具有不同优先级的小蜂窝用户可以通过调整其定价因子迭代步长获取差异化的业务体验。