相对传统多输入多输出（MIMO）系统而言，大规模MIMO系统可以通过采用数目庞大的多天线阵列获得较大的分集增益，使系统的容量和能效获得很大提升，是第5代（5G）移动通信系统的核心技术之一。本文围绕大规模MIMO技术展开研究，首先介绍了大规模MIMO系统的关键技术，包括大规模MIMO下线性多用户预编码，接收端信号检测算法和采用2D天线阵列的3D波束赋形。接着，重点分析了大规模MIMO多用户场景的系统容量，引入了空间自由度（DOF），推导了一定空间自由度下的近似系统遍历容量解析表达式。接着，在此基础上，研究了基于容量最大化的用户数优化问题，提出一种基于二分法的大规模MIMO用户数优化算法，并进行仿真分析。最后，针对大规模MIMO采用线阵尺寸过于庞大的问题，给出了采用2D天线阵的3D波束赋形技术方法，通过粒子群算法（PSO）优化波束下倾角并进行波束的功率分配，在保证低复杂度的前提下优化了系统容量。