移动通信凭借其所特有的移动性和个人化服务特征，很好地适应了信息时代的需求并表现出旺盛的生命力和巨大的市场潜力；随着移动互联网的快速增长和普及，移动通信网络的数据业务量正以每年增长增加一倍的速度快速增长。但移动通信业务的快速增长，无线频谱资源也越来越紧张。大尺度MIMO技术有望解决频谱资源匮乏问题，应对数据传输需求的爆炸性增长，满足用户的数据业务需求。它通过几十上百根天线的支持，能够充分利用空间自由度同时为更多的用户提供服务，在不增加额外带宽的情况下大幅度地提升系统容量，因而成为未来无线通信系统中的关键技术之一。本论文正是在这种背景下，展开对大尺度MIMO传输技术的深入研究。主要研究内容总结如下：1．在分析大尺度MIMO系统特征、性能优势及发展现状的基础上，从信息论的角度讨论大尺度MIMO的信道容量、最小天线数等问题，并进行仿真评估；然后，进行大尺度MIMO的传输设计，给出传输系统的整体及系统各个功能模块的具体设计及实现，并进行技术方案探讨，给出各个功能模块的具体解决方案。2．研究大尺度MIMO参考信号设计，提出了一种应用于32天线端口的CSI参考信号设计方案，并进行仿真验证及性能评估。该方案采用频分和码分复用相结合的混合复用方式，以进行参考信号开销和系统性能折中，并对不同大小天线布局下大尺度MIMO参考信号密度下的性能进行了分析。3．研究线性天线阵列布局下的预编码码本设计，提出了一种多天线量化预编码的分层码本设计方法，并进行算法实现及性能评估。该分层码本由Kerdock主码本和由一系列对角矩阵组成的辅码本构成，充分利用了Kerdock主码本和基于旋转扰动辅码本的优点，能够有效弥补现有码本设计的不足，能够提供有效的多天线预编码操作，尤其适用于信道相关性较强的场景。4．进一步研究平面天线阵列布局下的预编码码本设计，提出了一种应用于均匀矩形阵列的双层码本设计方法，并进行算法实现及性能评估。该双层码本能够很好地刻画信道特性，即使是在反馈开销有限的情况下，也能为不同应用场景的多用户MIMO提供有效的预编码操作。