随着长期演进系统的实施,室内高速数据业务在通信业务中所占的比重越来越大,这对移动通信系统的室内覆盖和系统容量都提出了更高的标准。而长期演进系统部署的频段主要分布在高频段,高频段信号在穿越墙壁等建筑物时其衰减程度比低频信号严重,导致室内宏基站覆盖弱区、盲区增多。在传统宏蜂窝网络中部署多个家庭基站而成的两层家庭基站网络能够有效增强传统宏蜂窝网络的室内覆盖质量。由于频谱资源紧缺,家庭基站与宏基站同频部署,这种部署方式会给宏蜂窝带来严重的干扰问题,降低两层家庭基站网络的性能。因此,有必要对两层家庭基站网络的干扰抑制问题展开研究。利用认知无线电技术可以提高家庭基站频谱利用率的优势,本文将家庭基站与认知无线电相结合,重点研究了认知家庭基站和宏基站共存时,基于资源分配的干扰管理问题。研究了两种认知家庭基站网络资源分配方法。1)针对现有基于频谱感知的家庭基站资源分配算法基本忽略不完美频谱感知因素的现象,而完美频谱感知在实际中很难实现,研究了一种基于不完美频谱感知的认知家庭基站网络资源分配算法。该算法在满足认知家庭用户的服务质量、保证宏基站用户正常工作的前提下,最大化认知家庭基站用户总容量。仿真证明认知型家庭基站相比于传统型家庭基站可以获得更高的两层家庭基站网络系统容量,并且性能超过约7.6%；同时,该算法中宏基站用户受到的平均跨层干扰比基于完美频谱感知的算法的低,且不会高于跨层干扰限制。2)针对认知家庭基站网络中密集部署认知家庭基站时,单纯的Overlay频谱接入模式不能使得所有认知家庭用户获得空闲频谱进行数据传输的问题,研究了一种认知家庭基站网络混合频谱接入方案。该方案给出了认知家庭基站网络下行链路中将认知家庭基站划分为内部家庭基站与外部家庭基站的划分策略。内部家庭基站采用Overlay模式,外部家庭基站选择Underlay模式,可以使得认知家庭基站网络获得较高频谱利用率。仿真证明本文研究的混合频谱接入方案较Overlay模式、Underlay模式可以获得更好的系统容量,混合频谱接入方案可以获得的系统容量比Underlay模式中的高,性能平均超过约3%,而Overlay频谱接入模式中认知用户获得的总容量基本保持不变。