大规模MIMO(Multiple-Input Multiple-Output)技术通过增加基站天线数可以大幅提高系统频谱效率和能量效率,可以在很大程度上抑制小区内和小区间的干扰,极大地提高系统的总容量,已经成为第5代无线通信网络物理层结构的候选者。同时需要与之相匹配的信号处理技术,滤波器组多载波(FBMC)技术不需要像OFDM那样引入循环前缀(Cycle Prefix,CP),可以进一步提高频谱的利用率。最新研究证明,FBMC技术被证明可以很好的匹配大规模MIMO系统,因为两者在5G网络中都体现出较好性能。从系统容量的观点来看,这种组合是至关重要的,因为,相同的频谱不仅可以被所有用户重复利用,并且表现出更高的频谱效率。相信Massive MIMO-FBMC的无线资源管理将成为下一代移动通信(5G)的关键技术。本文以优化能源效率和系统容量为目标,围绕Massive MIMO-FBMC系统中天线个数,用户数目和发射功率最优组合;天线选择与子载波分配联合优化;扩频子载波问题,进行了理论研究、仿真验证。主要工作有:大量天线的使用必然引起能耗问题,能量效率问题必然成为下一代移动通信的研究重点之一。本文在一种新的综合能耗模型下,结合发射天线个数M、服务单天线用户数K和单天线发射功率p三者联合优化问题,求出最优能源效率参数组合(M,K,p),给小区网络建设提供理论指导。目前提高系统容量的有效方法有两种:增加频谱带宽、增加天线数目。然而频谱资源是有限的,要想继续扩展带宽,就需要采用超高频波。目前已经有学者在研究毫米波的应用,这就必须解决超高频波穿透力差的问题,实现技术比较困难。本文采取增加天线数目来增加系统容量,这就面临另一个瓶颈问题,天线数目增加必将加大基站部署难度。所以本文推导出系统容量关于天线与子载波数目二元性的表达方式,利用天线与子载波联合优化获取所需系统容量。最后,以增加子载波数目为出发点,在研究传统扩频子载波技术基础上,研究一种扩频子载波均衡技术,通过增加子载波数目增大系统容量。并且,在接收端解扩前,采用最小均方误差的均衡方法,有效提高频谱效率与系统容量。