大规模天线技术是第五代移动通信系统中最具前景的关键技术之一。相比于传统的多天线技术具有传输速率高,能源效率(能效)和频谱效率(谱效)高等诸多优势,现已成为无线通信领域的研究热点之一。为实现大规模天线系统的高能效和谱效的性能优势,基站(Base Station,BS)采用合适的波束成形算法非常关键。目前,对下行大规模天线系统的研究大多集中在理想的信道状态信息(Channel State Information,CSI)情况下,以接收端为单天线场景研究,不考虑时延、量化误差等因素的影响,在基站端进行波束成形。由于拥有多天线的智能终端越来越多,用户终端的天线数目在逐渐增加,因此,这样的设计方法会影响系统的鲁棒性。本课题对大规模天线系统展开研究,主要研究内容如下:首先,通过对常见的信道模型如SCM(Spatial Channel Model)、WINNER(Wireless World Initiative New Radio)II信道模型的研究,构建了大规模天线系统的仿真环境,为大规模天线系统性能分析以及波束成形的实施和算法优化提供了基础保障;其次,在所构建的大规模系统仿真环境下,考虑单小区多用户的情况,利用块对角化(Block Diagonalization,BD)波束成形算法对下行大规模天线系统的能效进行了分析,并推导出了系统能效与谱效关系的闭式表达式,得到了能效与小区半径、基站的发射天线数的关系。通过仿真验证了合理的设置频谱效率工作点、增加基站的发射天线数以及减小小区半径都可以增强系统能效的结论;最后,在所构建的大规模系统仿真环境下,针对多小区协作的场景,在分析了量化误差以及传输开销时延对系统容量损失影响的基础上,综合考虑估计误差、量化误差以及开销时延等因素,利用收发端干扰对齐的技术,在MMSE(Minimum Mean Square Error)准则下,通过发送端的波束成形矩阵,使多个发送用户的干扰在接收端重叠在一起,然后利用接收矩阵对干扰进行处理。仿真验证表明,基于多点协作(Coordinated Multi-point,CoMP)传输进行波束成形的MIMO系统相对于传统的MIMO系统的能效有所提高,系统的可靠性以及有效性得到了进一步地提升。