为了提高网络吞吐量和覆盖面积以及降低能量消耗,异构网络作为第五代无线网络的一种候选技术被提出。在传统的同构网络中,每个基站有近似的传输功率和覆盖范围。而在异构网络中,放置了具备不同传输功率和处理能力的宏基站和小基站,以满足各种通信需求。小基站包括微微蜂窝基站,毫微微蜂窝基站和中继。微微蜂窝基站和毫微微蜂窝基站是通过有线回程链路连接到网络,而中继是通过无线回程链路连接到网络。异构架构带来了丰富的拓扑结构,但是在现有的宏基站覆盖范围内放置不同低功率的基站会造成严重的干扰,这为干扰管理和资源分配带来了新的挑战。因此,针对异构网络研究新的资源分配算法势在必行。本文的主要贡献如下:首先,对于多小区正交频分多址(Orthogonal Frequency Division Multiple Access,OFDMA)异构网络,我们提出了一种新颖的系统模型,这个模型考虑到了多连接和同信道调度。我们专注于这个模型的两个问题。第一个问题是在固定功率分配方案的前提下,如何进行用户关联和子信道分配的联合优化。我们把这个问题等价转化为一个二部图匹配问题,然后通过匈牙利算法得到了全局最优解。第二个问题是在固定用户关联和子信道分配方案的前提下,如何进行功率分配。基于凹函数差额近似(difference of two concave functions approximation,DCA)方法,我们把这个问题转化为一系列凸问题。然后,我们提出了一个低复杂度的算法来求解这些凸问题。此外,我们证明了只要满足一些条件,DCA方法即可收敛到一个Karush-Kuhn-Tucker点。仿真结果表明,与现有算法相比,我们的算法可以获得显著的性能增益。其次,我们研究了在多小区多连接OFDMA异构网络中,如何进行用户关联、子信道分配和功率分配的联合优化设计。通过轮换优化的方法,我们得到了这个联合优化问题的局部最优解。为了减少共享信道状态信息(Channel State Information,CSI)造成的基站之间的数据交换,我们也考虑了在只知道小区间信道状态信息的统计分布时,如何进行联合优化。然后,我们把联合优化问题分别扩展到了多天线接收机场景以及比例公平场景中。我们的算法在用户设备采用多天线接收机时具有良好的性能。在考虑到比例公平时,我们的算法可以在吞吐量和公平性之间取得很好的折衷。接下来,我们考虑双层异构网络中的鲁棒性波束成形设计。我们的目标是在保证小基站对宏基站用户的干扰小于等于一个阈值的前提下,最大化小基站用户在最差情况下的信干噪比(Signal-to-Interference-plus-Noise Ratio,SINR)。这样的问题是具有无限数量约束的非凸问题。我们首先通过一系列数学变换把这个问题转化为更易于处理的等价问题,然后提出了一个有效的算法来获得这个等价问题的近似最优解。仿真结果验证了该算法的有效性。此外,我们还求得了原始问题的一个上界。综上所述,针对异构网络,我们研究了用户关联、子信道分配、功率分配和鲁棒性波束成形设计问题。我们提出了多种新颖的异构网络资源分配算法。与现有的算法相比,我们的算法可以实现更好的性能。本文不仅丰富了异构网络资源分配的现有研究成果,而且对异构网络资源分配在实际系统中的应用具有重要的指导意义。