Femtocell技术作为下一代移动通信中的关键技术之一，通过低成本布置改善室内信号覆盖，快速扩充网络容量，减少宏小区的负载。然而，在传统宏小区覆盖范围内装配femtocell将会面临一个很大的挑战。尽管femtocell基站的发射功率很低，由于其与宏小区使用相同的频段，会对宏用户通信产生严重的同频干扰。因而，传统的资源分配方法己变得不再适用，如何设计高效的资源分配方法和femtocell的自优化方法以提高频谱和功率效率具有重要的意义。首先，本文提出了一种femtocell网络集中式资源分配算法，在保证宏用户能够正常通信的前提下，通过最优的子载波分配和功率分配满足femtocell用户的QoS需求。仿真结果表明提出的算法能够保证宏用户受到的干扰强度低于其可以忍受的干扰强度，降低femtocell对宏用户的干扰，提升了整个系统的频谱效率。其次，本文还在femtocell分布式场景下提出了一种自学习算法，首先将整个频带进行正交划分，在同一个区域femtocell和宏小区使用不同的频带，以减少宏小区与femtocell之间的跨层干扰。然后，采用分布式自学习算法减少了femtocells之间的干扰。通过仿真将该算法与短视行为选择算法进行了比较，结果表明该方法能够降低femtocell之间的干扰，提升femtocell网络的整体吞吐量，而且具有很好的收敛性。