家庭基站(Femtocell)是根据近年来宽带移动化发展的趋势而得到广泛研究的一种超小型基站系统。主要是为家庭住宅和企业办公等室内场景的用户提供更好的服务质量。在由宏蜂窝和家庭基站组成的两层网络中,频谱分配问题的研究对家庭基站系统的实际应用至关重要,如何进行频谱分配来减少宏小区和家庭小区之间的跨层干扰以及家庭小区之间的互干扰,提高频谱利用率,增大系统容量是本文的研究重点。本文分析了家庭基站和宏蜂窝两层网络中不同的家庭基站配置场景模型和干扰模型。提出了两种频谱分配方法,一种是基于软频率复用(Soft Frequency Reuse,SFR)的家庭基站两层网络频谱分配方法。这种方法可以分为两步,首先将软频率复用方法应用到宏小区中,给宏小区中心区域和边界区域分配不同的功率来提高宏用户的性能,然后在家庭小区中提出一种改进的家庭基站频谱分配方法,减少宏小区和家庭小区之间的干扰。仿真结果显示该算法在保证宏用户系统性能的前提下,减少了宏小区之间以及宏小区和家庭小区之间的同信道干扰,增大了系统容量。另外一种是混合分配家庭基站的频率资源和功率资源的方法。先按照自适应部分频率复用方法进行频率资源的分配,然后引入注水法原理,按照已有的子信道分配,在总功率受限的前提下,提高系统总的容量约束下,对各个子信道上的功率进行分配。仿真结果显示该算法能够提高系统频谱效率和边界频谱效率,增大系统容量。