由宏基站和小基站组成的异构蜂窝网络既能够提高热点地区的服务质量,又能够弥补宏基站覆盖不到的盲区,并扩大覆盖面积,是目前5G技术的研究热点。异构蜂窝网络可以通过频谱共享来提高有效性,然而,小基站的密集部署带来了一些新的问题和挑战,例如资源分配有效性低、同层干扰严重等。本文主要基于博弈论的方法对异构蜂窝网络中的资源分配算法进行了研究,包括小基站的接入控制、能效优化、功率分配等问题。首先,针对由宏基站和小基站构成的异构蜂窝网络上行链路,本文提出了一种基于联盟博弈的小基站接入机制。首先定义每个联盟内的时分复用方法,以此在联盟中共享频谱来降低干扰;接着,根据联盟博弈的干扰特性计算各用户的可达传输速率,并定义联盟博弈中的各种效用值;最后,在接入信噪比门限值的约束下,构建接入优化问题,以获得最优的系统速率,并提出一种基于联盟博弈的小基站接入算法来解决该优化问题。仿真结果表明,该算法能够收敛到一个稳定值,且在用户密集分布的区域,其性能更为优异。其次,针对共信道部署小基站网络中的能效优化问题,本文提出了一种联合功率分配与联盟形成的分布式博弈算法。首先构建联盟形成博弈的场景,令同一联盟内的小基站以时分复用的方式共享频谱;接着,定义小基站用户的传输速率及能量效率,以每焦耳传递的比特数作为衡量能效的指标,并建立以最大化系统能效为目标的联合功率分配与联盟形成的优化问题;在联盟形成博弈的过程中,结合基于非合作博弈的迭代解法来解决该联合优化问题,并获得当前联盟结构下的最优功率分配及最大系统能效;同时,小基站以该系统能效是否增加作为转移的判断准则来最大化系统能效。仿真表明,在经过多次博弈后,联盟结构最终将达到一个稳定状态,同时也将获得最大的系统能效及对应的最优功率分配。最后,针对下行能量采集小基站网络,本文提出了一种基于分布式联盟博弈的干扰管理算法。该算法将小基站网络中的协作干扰管理问题建模为带有转移效用的联盟博弈,并根据小基站的能量采集策略来确定同一联盟内小基站的时间共享方式;接着,以小基站系统容量最大为目标建立优化问题,并利用本文提出的分布式联盟形成算法,得到使系统总效用最大的稳定联盟结构、最优时间共享策略和最佳功率分布;最后,对算法的收敛性和稳定性进行了分析证明。仿真显示,在小基站密集部署的情况下,本文算法的系统性能明显优于非合作算法,且能较快达到收敛。