以智能手机为代表的智能设备为用户提供了日益增长、种类繁多的各式应用,人们对通过无线网络随时随地获取数据和多媒体服务的需求急剧增长。为了满足未来数据陡增、业务多样化的趋势,未来移动通信系统的异构化、不规则化是必然选择。蜂窝异构网络通过引入新的小功率节点,如Pico基站、Femto基站,中继节点(Relay)以及D2D节点等,可以有效解决覆盖“盲区”和“忙区”问题,从而显著提升系统容量和频谱利用效率。然而,蜂窝异构网络的大规模部署仍然面临着诸多技术挑战。另一方面,对于无线网络而言,无线资源分配及网络性能优化将对提升网络整体性能起到至关重要的作用。研究高效的蜂窝异构网络无线资源分配技术,不仅是分析和深化蜂窝异构网络理论及应用的本宗要务,而且对于推动无线网络的异构化部署以及SON进程具有重要意义。本文以蜂窝异构网络的资源分配技术为研究核心,通过分析蜂窝异构网络的性能潜力,设计新型的资源分配方案,从而为推动蜂窝网络异构化部署、实施及SON进程进行先行的理论探索。本文的主要工作如下：针对蜂窝异构网络的回传组网需求,提出了一种基于无线回传的蜂窝异构网络资源分配方案。结合小功率基站到宏基站有限的回传能力,以减少层间干扰,最大化系统吞吐量为目标,研究基于无线回传的蜂窝异构网络资源分配问题。提出了基于斯塔克尔伯格博弈的蜂窝异构网络动态资源分配算法,该算法综合考虑了接入阶段的干扰控制和回传阶段的回传调度。针对蜂窝异构网络的跨层干扰问题,研究基于李雅普诺夫稳定性的蜂窝异构网络资源分配。在李雅普诺夫稳定性分析的基础上,提出了基于蜂窝异构网络宏用户队列稳定的蜂窝异构网络干扰管理算法。首先通过李雅普诺夫偏移方法,即用宏用户队列长度替代拉格朗日乘子,将问题转化为一个线性约束的非凸问题。之后利用近似逼近以及对数逼近的方法分析最优功率策略的闭式解。基于近似最优解的分析,分别提出集中式和分布式的功率控制算法。最后通过仿真说明了算法的性能。针对蜂窝异构网络由于布施新节点基站而带来的负载业务分配不均衡以及小基站的超密集部署带来的能耗问题,提出了一种以能量效率最大化为目标的蜂窝异构网络下行链路资源分配算法。全面考虑网络中用户的不规则分布、基站的电路功率损耗以及用户的最小数据速率需求,提出了基于Dinkelbach方法的迭代资源分配算法。在算法的每一次迭代中,依次提出了基于图论的PRB分配策略和基于对偶分解的功率分配策略。针对蜂窝异构网络中面向用户体验的资源分配策略展开研究,提出了面向用户体验质量的蜂窝异构网络资源分配方案。分析基于不同应用类型的QoE评价模型,针对影响用户体验的某些关键参数,将用户主观因素引入蜂窝异构网络的资源分配中。针对不同业务类型,分别提出基于0-1松弛的资源分配算法和基于跨层优化的无线资源分配算法。同时,采用优先级机制来为蜂窝异构网络中的不同用户设定不同的优先级。