随着高速率、低时延的新型业务以及物联网、车联网等新技术的出现,当前移动通信网络面临着巨大的压力,为此旨在提升网络容量和端到端性能的下一代移动通信网络已经进入研究阶段。在下一代移动通信网络中,小小区网络以其可以大幅提升频谱效率和能量效率、降低网络成本的优势,成为最具应用潜力技术之一,然而小小区网络的回传问题是限制小小区基站大规模部署的瓶颈。全双工自回传技术通过利用全双工技术在蜂窝频段上实现小小区基站的无线回传,不需要新的硬件设施和频谱资源,大大降低了网络成本,成为解决小小区网络回传问题最具前景技术之一,已受到学术界和工业界的广泛关注。同时,无线资源管理在控制小小区网络的复杂干扰,提升网络频谱效率和能量效率,保证用户服务质量（Quality of Service, QoS）等方面都扮演着重要角色。因此,本文研究基于全双工自回传的小小区网络中的无线资源管理技术,并结合下一代移动通信网络中其他关键技术,提出多种无线资源管理算法,通过对干扰的有效控制,合理地分配频谱以及功率控制,为用户选择最优的接入基站,保证小小区回传链路质量,提升网络频谱效率和能量效率。本文主要贡献和创新点如下:（1）在基于全双工自回传和虚拟化的小小区网络中,提出了一种基于方向交替乘子法（Alternating Direction Method of Multipliers,ADMM）的分布式虚拟资源分配策略。首先,将网络虚拟化引入到基于全双工自回传的小小区网络中,并针对该网络提出了一种虚拟化资源管理架构。其次,根据网络中用户支付价格以及虚拟运营商支付价格,将网络中虚拟资源分配问题建模为一个最大化虚拟网络运营商效益的非凸的集中式优化问题。然后,将该问题分成两步进行求解,第一步中,假设频谱分配因子已知,求解用户接入以及功率分配方案,此问题首先通过变量替换和松弛被转化为一个凸优化问题,然后利用ADMM理论提出一种分布式求解算法;第二步,利用第一步所求得结果,求解频谱分配因子。最后,通过综合两步,提出了基于ADMM的分布式虚拟资源分配算法。最后,仿真表明所提的基于全双工自回传的虚拟化小小区网络可以充分发挥全双工自回传和虚拟化的优势,可以有效提高基础设施提供商、虚拟网络运营商以及用户的收益。（2）在基于全双工自回传和大规模天线的小小区网络中,提出了一种最大化频谱效率的功率分配策略。首先,将大规模天线技术引入基于全双工自回传的小小区网络中,通过两者的结合,实现了用户的接入和小小区基站回传链路的同时同频进行,大大提升了频谱效率,有效保证了小小区基站自回传质量。其次,利用香农容量公式建模用户接入链路和小小区基站回传链路的频谱效率,将宏基站和小小区基站的功率分配问题建模为一个优化问题,以最大化网络频谱效率。再次,考虑到所建模问题为一个非凸问题,本文首先利用连续凸近似理论将原问题转换为一个差分凸规划（Difference of Convex Program,DCP）问题,然后提出一个基于受限的凹凸过程（Constrained Concave Convex Procedure,CCCP）的迭代式求解算法,并通过数学理论分析所提算法的收敛性。最后,仿真结果证明引入大规模天线可以有效提升自回传链路质量,进而提升网络的频谱效率,仿真结果表明所提功率分配算法十分有效。（3）在基于全双工自回传和能量收集的小小区网络中,提出了一种能量有效的资源分配策略。首先,将能量收集技术引入到部署有大规模天线的全双工自回传小小区网络中,小小区基站通过收集周围可再生能源供电,实现了小小区基站的自供能和自回传,大大降低网络建设成本和运营成本,并提升基站部署灵活度。其次,提出了一种基于增强型块对角化的干扰消除算法,可以同时消除跨层干扰和多用户干扰,提升网络频谱效率和能量效率。再次,为了进一步提升网络能量效率,本文将用户接入和基站功率分配问题建模为一个优化问题,最大化网络能量效率,同时考虑小小区基站的能量到达速率和用户的QoS需求,由于所建模问题为非凸问题,本文利用凸优化理论将其转换为一个DCP问题,并利用之前所提算法进行了求解。最后,仿真结果表明本文所提的自供能和自回传方案可以有效降低网络成本,同时干扰消除算法有效提升了网络的能量效率,通过优化理论所得的用户接入和基站功率分配方案降低了能耗,保证了自供能和自回传的小小区基站的平稳有效运营。