大规模MIMO技术作为5G的核心关键技术之一,近年来成为了研究热点。该技术在传统的MIMO技术基础上通过增加天线数目以支持更多的并行空间数据流,从而成倍地提升系统的容量与频谱利用效率。然而,由于在同一时间、频率资源内需要支持大量的数据流,大规模MIMO系统下行链路存在严重的干扰问题,而受用户端处理能力的限制,系统难以在接收端采用检测技术。因此,预编码技术成为了大规模MIMO系统下行链路主要的干扰消除技术。基于上述研究背景,本文系统研究了大规模MIMO系统下行链路的预编码技术,包括常见的几种线性、非线性预编码技术。同时,着重研究了一种具有低复杂度的高效非线性预编码技术——恒包络预编码。本文的主要研究内容及成果如下:第一,本文介绍了常见的线性预编码技术:迫零预编码技术、基于最小均方误差的预编码技术、最大比传输技术以及基于奇异值分解的预编码技术的基本原理,分析了各自的优缺点,并讨论了这几种预编码技术在大规模MIMO系统中的遍历和速率。此外,还介绍了基于矢量扰动的预编码技术以及基于模值下降搜索算法的矢量扰动预编码技术等两种非线性预编码技术。第二,本文着重研究了一种低复杂度的高效非线性预编码技术——恒包络预编码,具体包括针对恒包络预编码中的两大研究难题:无噪声干扰情况下的接收信号集合域分析及恒包络预编码算法设计,进行了详细的分析,讨论了算法的可行性、可达性能与潜在的研究空间。此外,本文还研究了符号能量系数的选取对算法性能产生的影响,分析了符号能量系数的选取准则,并指出了影响最佳符号能量系数取值的三种因素,即归一化发射总功率、发射天线数目以及用户数目。第三,为了迎合5G对于高移动性场景的应用需求,本文对高移动场景下恒包络预编码技术的性能进行了研究。针对高移动性引起的信道估计误差对恒包络预编码性能造成的影响进行了理论分析,并推导出了其可达遍历信息和速率的闭合表达式。最后,通过数值仿真评估了系统的可达平均遍历信息速率及误比特率性能曲线。结果表明,高移动性对于恒包络预编码算法性能的影响具体表现为近似高斯噪声的常数项的形式,该常数项在数值上等于信道估计误差的方差,与信道状态矩阵、发射信号等系统因素均无关。故通过优化信道估计算法,降低信道估计误差,就能抑制高移动性造成的影响。