随着无线终端数量的迅速增长,无线通信网络的容量需求与有限的频谱资源之间的矛盾日益突显。作为第五代移动通信技术的关键技术之一,大规模天线(Large-scale Antenna,LSA)可有效的提升系统的容量性能。大规模天线将许多天线元放置在较小的区域内,势必会引入一定的干扰。为此,需使用预编码技术来消除干扰。其也是无线通信技术中一种有效抵抗多径衰落的技术,该技术也可降低接收端的信号处理复杂度。本文主要研究大规模通信系统中预编码及相关技术的研究。本文首先介绍了大规模天线下行链路传输的系统模型。基于该模型,针对迫零(Zero-Focing,ZF)预编码方案中的矩阵求逆复杂度过高的问题,介绍了几种通过迭代方式逼近ZF预编码方案的低复杂度预编码算法。且这几种算法均是适用于窄带信道。其次,本文详细介绍了LSA-OFDM系统线下行传输链路中的一种低复杂度的递归卷积预编码方法。先采用递归的方法来避免了对矩阵求逆进行直接的计算,之后将其转换为时域的预编码滤波器。且预编码滤波器系数也可通过递归的方式进行求解。且因预编码处理转化在时域内进行,使得逆傅里叶变换的次数等于系统中的用户数,而与发送端的天线数目无关。该算法可有效的降低LSA-OFDM系统的预编码复杂度和逆傅里叶变换的处理复杂度,且可对时变信道进行有效的追踪。假定系统在进行用户更新时信道为非时变的,针对用户更新问题,提出了一种利用用户更新前系统预编码的先验信息来简化用户更新后系统预编码处理的设计方案。该方案可有效的降低用户更新后系统预编码处理的复杂度。最后,主要研究了基于用户服务质量(Quality of Service,QoS)的预编码设计,即通过预编码向量和动态的用户功率分配以满足用户的QoS需求。二者的联合求解较为困难,因此,将其转化为两步进行求解,即先确定用户的预编码向量,再通过功率分配以满足用户的需求。着重研究了如下情形:针对时变信道下的用户更新,提出了利用用户更新前系统的先验信息来简化用户更新后系统的低复杂度的预编码算法。仿真结果表明,该低复杂度算法可以有效的降低预编码处理的复杂度,且对时变信道可进行有效的追踪。但由于系统性能会随时间的变化而恶化,因而需要逐渐增大发送端的发送功率以满足用户的QoS需求。