Femtocell的出现很好地解决了传统Macrocell网络室内覆盖不足的缺陷,但随着Femtocell大量部署,Macrocell网络与Femtocell网络间的跨层干扰,以及Femtocell网络间的同层干扰问题日渐凸现出来,限制了Macrocell-Femtocell双层网络系统性能达到的上限。因此如何有效的抑制Macrocell-Femtocell双层网络中的干扰来提高系统性能具有重要意义。本文针对目前Macrocell-Femtocell双层网络的干扰问题,提出了两种改进算法。提出了一种基于图论的信道分配和基于路损的功率控制联合算法,用于解决Macrocell-Femtocell双层网络中的跨层干扰和同层干扰问题。算法主要分为3步:1.借助图论的知识构建干扰图,通过干扰图进行信道分配。对于干扰严重的Femtocell采用相互正交的信道,可降低Femtocell间的同层干扰;2.在保证宏蜂窝用户和家庭用户服务质量的前提下,设定多个SINR门限值和Femtocell干扰标志,并根据信道质量设置对应的干扰级别;3.根据干扰级别进行相应的功率控制,最终达到消除Femtocell对宏蜂窝用户跨层干扰的目的。仿真结果表明,该算法很好地提高了用户的信干噪比和吞吐量,同时在保证了家庭用户和宏蜂窝用户服务质量前提下,很好的将家庭基站用户的信干噪比控制在-6dB到20dB之间,从而提高了整个系统的吞吐量。提出了一种基于最优合并准则的两层合作频谱感知算法,用于消除Femtocell对边缘宏蜂窝用户的跨层干扰。本算法主要分为3步:1.通过设置双门限给出了两层频谱感知的具体实施方案,并推导出了两层频谱感知的检测概率和虚警概率;2.基于认知Femtocell用户可靠性与感知结果的不同,推算出了认知Femtocell用户的加权值;3.对所有认知Femtocell用户的加权结果进行融合判决,Femtocell根据判决结果选择干扰小的信道来减小干扰。仿真结果表明,所提两层感知算法中,每个认知Femtocell用户的检测概率比传统的双门限检测算法高,最优合并准则相对传统融合准则可以进一步提高双层网络的检测概率和抗噪声能力。