近年来,互联网技术的爆发式进步使社会生活的内容变得丰富多彩,而微电子技术,尤其是超大规模集成电路技术的突飞猛进使得手持终端的功能日益强大,开始逐渐承担各种网络应用以满足人们随时的数据服务需求,包括娱乐、办公、通信等。由此,以移动终端为承载的移动互联网热潮正在兴起。由于数据服务从传统的以文本和语音为主的简单内容转变为集视频、语音、文本等内容的综合服务,原来的蜂窝网络已经不堪重负。为了应对高速增长的数据流量负载,如何利用有限的无线频谱资源实现高质量的数据传输服务成为近年来业界研究的热点。小基站异构网络技术被广泛认可为极具潜力的解决方案,被誉为未来5G通信中的一项关键技术。最近的一些研究表明,如今大量的网络负载产生于室内环境。因此,3GPP提议在原先的由宏基站构成的传统蜂窝网络中部署小基站网络。一方面,小基站缩短了终端与基站之间的传输距离,改善了服务质量。另一方面,由于在小基站异构网络中,频率资源被重复利用,有利于提高频谱效率。并且,小基站的大量部署可以有效地改善网络的覆盖效果,增强蜂窝边缘用户的服务质量。然而,大规模的小基站的部署也产生了许多新的需要认真解决的问题。本文首先研究了回程链路受限的小基站异构网络下的负载均衡方案设计。虽然在小基站异构网络中,原来由宏基站服务的很多用户会被卸载到邻近的小基站中去,最终为宏基站分担负载。但是,小基站所能为宏基站分担负载的总量不是没有限制的。由于小基站在部署时将被分配一条固定的回程链路资源。因此,小基站的回程链路容量将成为小基站负载的上限。并且由于用户的分布随用户移动而随机变化,动态地实现小基站异构网络的负载均衡成为一个热点问题。本文首先研究了在小基站端,通过动态设定小基站的参考信号接收功率偏置值来实现负载均衡的方法。我们考虑了小基站受限的回程链路资源的利用率,希望避免资源的浪费或者回程链路的拥塞。同时,小基站周围的用户的阻塞率也会对小基站参考信号接收功率偏置值的选取产生影响。通过选择合适的参考信号接收功率偏置值,我们的算法能够有效地利用小基站的资源为宏基站分担负载,并且能够在小基站回程链路资源利用率与小基站周围用户的阻塞率之间实现很好的折中。其次,本文研究了小基站异构网络下的干扰控制方案设计。由于在小基站异构网络中,频率资源将在各基站间多次复用,这将导致十分复杂且严重的信号干扰。在正交频分复用系统中,频率资源从时间和频率两个维度上被分割为一个个资源块,小基站再将资源块分配给用户使用。因此,通过合理的资源分配,可以减少或规避干扰,优化传输信号质量。在本文中,我们首次提出了“先分配再分割”的资源块分配方法来实现小基站异构网络中的干扰控制。小基站在首次分配资源块时完全不考虑干扰,然后我们利用博弈论中的纳什讨价还价模型设计了分布式的算法对干扰严重的资源块重新分割。我们的研究首次尝试由用户提出资源分割的方案,通过仿真证实将有效提高用户的服务质量以及资源利用率。最后,本文研究了在LTE-U (Long Term Evolution in Unlicensed Bands)系统中的资源分配的问题。最近,LTE-U作为未来5G通信中的一项十分有潜力的技术成为研究热点。在LTE-U系统中的小基站一方面像之前一样复用许可频段进行数据传输,另一方面,它将竞争WiFi系统的免许可频段给自己的用户使用。因此,在优化资源分配的时候必须联合考虑许可频段与免许可频段的资源分配。在许可频段上,由于频率的复用,我们的研究中考虑设定了干扰的最大门限。在免许可频段上,由于小基站的竞争,WiFi系统中的用户将经受更多的信道竞争碰撞,因此在我们的研究中对于小基站占用WiFi的免许可频段比率也设有上限。本文的研究将在综合考虑许可频段上的干扰与免许可频段上的信道竞争碰撞下,实现联合的许可频段与免许可频段上的资源分配。我们将原问题成功转化为一个凸的优化问题并寻求到了最优的资源分配方案。