随着移动终端设备的增多,无线通信数据量呈爆发式增长,提高频谱效率和能量效率成为下一代无线通信系统发展的主要目标。大规模MIMO系统继承了传统MIMO系统的优点,可以显著的提高通信系统的谱效和能效,这些优点使得大规模MIMO系统将会成为5G无线通信网络中最有前景的技术之一。针对大规模MIMO系统,本论文主要研究了以下三个方面:第一,对多小区多用户大规模MIMO系统的3D MIMO技术进行了性能分析。首先,通过细化用户分布的小区区域,仿真分析和对比了 3D MIMO技术和2D MIMO技术的传输性能特性,发现3D MIMO技术在小区不同区域内存在着性能差异。然后,分析得出了3D MIMO技术的这种性能差异性产生的原因。最后,为了避免出现这种性能差异,本章提出了 一种优化方案,提升了系统的传输性能。第二,针对多用户大规模MIMO系统的能效问题,研究了基于上行能效最优的天线配置设计。首先,提出了一种相对全面的系统能耗模型,考虑到了不同接收检测算法对系统能效的影响。其次,通过理论证明,分析出使系统能量效率到达最优值的方法,即需要联合优化传输速率和基站天线数,并提出了一种搜索方法去获得最优值的系统能效。最后,仿真结果表明所提的搜索方法与最优算法的性能相近,但是具有较低的算法复杂度。第三,针对多用户大规模MIMO系统的能效问题,研究了基于上行能效最优的系统设计问题。首先,在小区用户数较多且基站天线数有限的情况下,证明了选择信道状态较好的用户可以提高整个小区系统的能量效率,并提出了基于能效最优的用户选择方案。其次,通过仿真分析了该方案可以有效提高系统能量效率。最后,结合前一章节的研究内容,提出了基于上行能效最优的小区系统设计方案,即针对不同场景,系统基站天线数或小区内用户的选择方案。