移动通信技术的进步使通信速率不断提高,例如,国际电信联盟(ITU)高级国际移动通信(IMT-Advanced)标准的吞吐量已可达吉量级,在稳定、可靠的高数据速率接入网支撑下,丰富的无线多媒体业务飞速发展并得到普遍应用,导致无线数据业务量呈现井喷式增长。由于可用频谱资源有限,当系统通信量需求大大超过其容量时,用户的有效通信速率会因为系统容量的限制而降低。根据统计,目前超过70%的移动数据业务发生在室内环境,并且这一比例还在继续增长。因此,毫微微小区(Femtocell)作为一种提供室内无线宽带覆盖的低功率、微型无线接入技术,被学术界与产业界视为解决移动蜂窝网络所面临的巨大容量压力的有效手段,并引起了广泛的关注Femtocell引入到传统移动通信蜂窝系统则构成双层网络系统,为了更加清楚表达两层网络间的关系,本论文称其为Femtocell辅助蜂窝系统。本论文对Femtocell辅助蜂窝系统中的若干关键技术进行了研究。首先,本论文对业界关注的3种Femtocell系统频率资源分配方案(即全局频率复用方案、正交频率划分方案与混合频率复用方案)下的干扰管理、资源管理以及相关的技术进行了一系列的研究；然后,对Femtocell辅助蜂窝系统中的移动性管理进行了研究。本论文研究内容以及创新点如下：对Femtocell辅助蜂窝系统中的全局频率复用方案进行了研究,提出了一种基于伪切换的子信道与功率自适应分配策略。相应研究内容主要包括3部分：1)在满足Femtocell中用户通信速率要求的条件下,以最小化Femtocell对临近用户的干扰功率为目标,建立了问题模型；2)基于3GPP LTE-A标准,提出了一种基于伪切换方法的跨层与同层信息交互方案；3)基于内容2)所获取的调度信息,原问题模型可以转化为功率与子信道联合优化分配问题,并提出了一种改进的比例公平与注水功控迭代算法。通过仿真与横向的性能比较,验证了本研究所提出策略能够有效的抑制跨层干扰与同层干扰,降低Femtocell功耗,并提高频谱效率。在Femtocell与宏小区间频率资源正交划分方案下(即正交频率划分),对Femtocell网络的最优功率分配、子信道可复用概率以及目标Femtocell用户所复用子信道容量进行了研究,并通过数学方法推导出相应的闭式解。所做研究主要包括3部分内容：1)参考干扰温度模型与3GPP LTE-A标准中相应的网络架构,同时考虑平均干扰限与瞬时干扰限,建立了优化Femtocell用户复用子信道容量的问题模型；2)利用凸优化等数学理论推导出最优子信道功率分配；3)基于研究内容1)与2),在瑞利(Rayleigh)信道下,进一步推导出子信道可复用概率与中断概率的闭式解,以及目标Femtocell用户所复用子信道容量的闭式解。通过数值分析验证了所建立问题模型以及数学推导的正确性。本研究为Femtocell层网络频谱资源的规划以及Femtocell网络的部署提供了理论参考。对Femtocell辅助蜂窝系统中的混合频率复用方案进行了研究,提出了一种联合频谱动态分配、分簇与功率控制的算法(JFCPA)。所做研究主要包括3部分内容：1)通过对干扰场景进行定量分析为混合频率复用方案的制定提供了理论依据,并且证明了Femtocell辅助蜂窝系统的下行与上行同频干扰场景之间的对偶关系；2)在研究内容1)的基础上,将宏小区覆盖范围划分为两个区域：Femtocell干扰敏感区域(ISA)与Femtocell干扰非敏感区域(NISA),在区域划分的基础上,将系统频率资源分为3个子频段：全局复用子频段、Femtocell专用子频段与宏小区专用子频段；3)基于聚类分析与图论等理论,提出一种联合Femtocell分簇、频率分配与功率控制的算法,用以实现研究内容2)中的区域与子频段的动态划分,以及Femtocell子信道复用簇的确定与功率的分配。最后,通过仿真验证了本章所提算法在提高频谱效率、抑制跨层与同层干扰以及降低Femtocell功耗等方面的有效性,并且为Femtocell辅助蜂窝系统的实际部署提供了详细的参考数据。另外,本研究为Femtocell辅助蜂窝系统中的干扰管理与资源管理提供了新的研究思路。切换是无线资源管理中不可或缺的一部分,因此,针对Femtocell辅助蜂窝系统中的切换时延等问题,设计了一种用户预测切换触发策略。所做研究主要包括4部分内容：1)对Femtocell辅助蜂窝系统中切换场景与传统蜂窝小区中切换场景的不同点进行了分析与总结；2)参考3GPP LTE-A标准,设计了一种基于物理小区标识(PCI)预规划的用户终端切换场景识别策略,使用户终端能够识别可能发生的切换所属的切换场景类型,进而估计切换时延；3)基于研究内容1)的分析,参考3 GPP LTE-A标准框架,设计了一种用户预测切换触发策略,以降低不同切换场景下切换时延对用户感知度带来的影响；4)为了综合评估所提策略的鲁棒性与有效性,基于随机移动模型(Random walk model)与引力模型(Gravity model),设计了事件触发用户移动模型,最后,通过动态系统仿真验证了本章所提策略的有效性。论文最后对全文进行了总结,并探讨了后续研究方向。