近年来室内移动业务量急剧增长,为话音、视频以及高速数据业务提供良好的室内覆盖变得越来越重要。基于正交频分多址(OFDMA, Orthogonal Frequency Division Multiple Access)的Femtocell作为一种能有效改善室内覆盖和提高系统容量的技术,目前已成为移动通信网络的研究热点。自组织网络(SON, Self-organizing Network)技术包括自配置、自优化和自愈合功能,是Femtocell网络降低设备制造和网络运维成本、实现设备的简单易用、优化网络整体性能的关键技术之一。论文选题来源于国家863计划重点项目“频谱资源共享无线通信系统”(项目编号：2009AA011802)；与英国伦敦大学共同承担政府间科技合作项目“基于干扰管理的半智能节能蜂窝网络”。论文从干扰管理、能效优化和覆盖优化等方面,对OFDMA Femtocell网络的自优化关键技术进行了深入研究,以期能够实现网络的自动化、智能化和自适应。主要研究工作及成果如下：(1)对Femtocell网络自优化相关理论和技术进行了分析和综述。分析和比较了现有直放站、分布式天线系统、Picocell和Femtocell等室内覆盖技术的特点,总结了目前Femtocell网络相关技术的研究进展及标准化进程,指出了Femtocell网络自优化技术的主要研究问题。(2)针对OFDMA Femtocell网络的干扰问题,提出了基于群智能优化理论和功率分配的干扰管理方法。首先根据宏小区和Femtocell在网络中的不同定位分别建立相应的功率分配效用函数,并提出了分别基于粒子群优化和差分进化两种群智能优化理论的功率分配算法。结果表明,粒子群优化和差分进化都能快速有效地解决功率分配问题,并且前者具有较快的收敛速度,后者具有较高的收敛精度。同时,所提功率分配算法可有效改善宏小区用户的中断概率和吞吐量等性能，且对Femtocell用户的性能带来较小影响,较好兼顾了宏小区用户和Femtocell用户的性能。(3)针对OFDMA Femtocell网络的能效优化问题,提出了能量高效的分布式功率控制算法。该算法考虑子信道最大发射功率、最小目标信干噪比(SINR, Signal to Interference plus Noise Ratio)等约束条件,以最大化能量效率为目标,并通过增广拉格朗日乘子法进行求解。所提功率控制算法可在保证用户最小目标SINR的前提下优化OFDMA Femtocell网络的能量效率,即使在Femtocell大规模部署的场景下也能获得较优的能量效率。(4)针对OFDMA Femtocell网络的能效优化问题,提出了基于有效容量的Femtocell基站休眠模式优化算法。首先引入有效容量的定义并进行扩展用于描述能量效率和用户等待时延的折中关系。并进一步考虑分布式优化方法,将Femtocell基站休眠模式的参数优化问题分别建模为两个最优化问题：在给定有效容量约束下最大化能量效率,以及在给定能量效率约束下最大化有效容量。所提算法可有效优化OFDMA Femtocell网络的能量效率,获得了能量效率和用户等待时延的最优折中。(5)针对企业部署场景下OFDMA Femtocell网络的覆盖优化问题,提出了基于多属性决策理论的覆盖优化算法。该算法考虑覆盖盲区、覆盖重叠、区域频谱效率和负载平衡等优化目标,将覆盖优化问题建模为一个多属性决策问题,并利用多属性决策方法中的灰度关联分析法进行求解。所提覆盖优化算法能够较好地兼顾覆盖盲区、覆盖重叠、负载平衡以及区域频谱效率等优化目标,有效改善了网络的整体性能。论文进一步对所提覆盖优化算法对优化目标权重的灵敏度进行了分析。