当前移动通信的一个关键问题就在于有限的频谱资源和人们无限的通信需求之间的矛盾。但是由于传统的通信系统在空间和时间上存在着一些固有的限制,现有系统对频谱资源的利用率却相对不高。随着通信技术的发展,为了提高系统容量,未来的通信系统发展呈现出了一种异构化的趋势,主要包括一、网络覆盖范围的异构,二、资源使用优先级的异构,三、网络技术标准的异构。这样异构化的网络可以改善通信系统的性能,从空间和时间上进一步开发和提高频谱等无线资源的利用率,在一定程度上解决通信需求增长与频谱资源紧缺的矛盾,但是网络异构化也带来了一些问题,其中一个关键的挑战就是如何对异构网络进行有效的控制与优化操作,从而保证网络高效地运行,实现提高频谱等无线资源利用效率和整个网络容量的目标。因为异构化的网络虽然形式不同,但都存在着网络种类和数量多、结构复杂、管控目标多元化、需要调整的参数繁多等特点,相对于传统网络,异构网络不仅对于网络性能的需求更多,要求更高,而且网络运行中控制和优化的难度也大大地增加,因此传统的主要以人工方式进行的网络规划、设计、管理和维护已不能很好地满足网络运维的要求,需要研究智能高效的无线网络设计、管理与优化方法,实现网络资源的高效管控和利用、网络间的干扰消除,网络元素的有效协作,以达到提高频谱等无线资源效率和系统性能的目的。面对无线网络异构化的趋势,本论文针对异构网络亟需提升系统性能和实现高效管控的挑战,充分考虑不同异构网络在网络层次关系、网络优化目标和可用优化方法等方面的特点与共性,结合通信网络理论与人工智能等数学算法,研究了在异构化的网络中进行智能的控制与优化,从而提高频谱效率和网络容量的关键技术与方法。本论文的主要创新点如下：针对异构化网络中控制和优化所面临的高要求、高复杂度的挑战,探索了异构网络中智能化的控制与优化技术。首先针对覆盖范围异构的层叠网络的资源分配基本问题,通过借鉴频率软复用的思想,实现了在宏蜂窝与femtocell网络之间有效地划分可用频谱的方法,其次研究了引入认知技术来进一步提高femtocell网络对宏蜂窝网络空闲频谱的利用率的方法。进而结合启发式算法,在层叠网络中实现以容量最大化为目标的信道与功率的高效分配。在解决了资源分配问题后,进一步研究了在层叠异构网络运行过程中,引入启发式算法来智能地优化网络参数的技术。首先针对家庭环境中的层叠网络覆盖,研究了利用多天线技术的基于波束赋形的天线参数优化方法,从空间的角度降低层叠网络的干扰并提高容量。其次建立了公共环境中层叠网络的容量模型,并提出了基于模拟退火法的天线与功率的联合优化方法,尽可能地降低网络中的干扰和提高资源效率。结合无线通信技术发展的新趋势,研究了层叠网络中的控制与优化的新技术。首先提出了适于层叠网络的低开销的层叠网络环境下的联合多点通信技术,利用多点协作来减小小区间干扰和提高容量。其次通过功率优化和接入控制来在不影响系统性能的前提下尽可能地降低femtocell网络中的能耗,实现femtocell网络中的绿色通信。第三,引入了神经网络方法,建立基于神经网络模型的femtocell网络管控系统,高效地优化网络的多项运行参数,进而优化网络的性能。在关于层叠异构网络研究的基础上,根据不同异构网络在网络间关系、优化目标和方法上的相似性,针对主次异构网络和接入技术异构网络的控制与优化问题进行了研究。首先针对主次用户共存网络中两个不同的典型场景,建立主次网络容量的模型,并基于凸优化理论和拉格朗日方法,研究了主次用户协作的频谱与功率分配最优解,以及在一定的速率限制条件下,次级用户多播网络中的无线资源分配方法。其次,针对多接入技术标准的异构接入网络中用户进行网络选择的问题,引入启发式算法,以保证用户的服务和网络整体性能为前提,综合考虑影响通信质量的因素和设备的能耗,提出了基于用户选择的多重网络覆盖下多模终端的接入选择策略。