多输入多输出(Multiple Input Multiple Output,MIMO)系统可以在不增加时频资源的情况下提高传输的有效性和可靠性。将MIMO技术应用于无线通信的下行链路,基站同时为多个用户提供服务,可以大大提高系统的容量,而一般来讲,多个用户之间不能协作,需要在基站进行预编码来达到复用的目的。本文主要研究下行多用户MIMO的预编码技术。首先,本文研究了平坦衰落信道下的下行多用户MIMO预编码技术。推导并分析了协作和非协作下行多用户MIMO的容量上限,并研究了各种预编码的实现过程、应用场景及信道容量。其中,迫零(Zero Forcing,ZF)和规则化信道反转(Regularized Channel Inversion,RCI)预编码极大简化了接收端的处理过程,适用于每个用户只配备一根天线的情况,但在用户端配备了多根天线时性能较差,且有较强的维度限制;块对角化(Block Diagonalization,BD)和连续最小均方误差(Successive Minimum Mean Square Error,SMMSE)预编码在每个用户配备了多根天线的情况下有明显的容量增益,且维度限制有所放宽,但当需要服务的用户数较多或者用户配备的天线数目增加时,基站的天线数也要相应增加,此时BD和SMMSE预编码不能利用完整的信道自由度;信号泄露噪声比(Signal-to-Leakage-and-Noise Ratio,SLNR)预编码则很好解决了上述几个预编码的缺陷,不仅能在噪声和干扰之间折衷,还能在支持最多用户数和天线数的情况下利用完整的信道自由度;顺序预编码(Successive Precoding,SP)则在用户的服务质量(Quality of Service,Qo S)需求差异较大时能够有效节约基站发射功率。接着,本文在用户端配备多根天线的情况下,希望得到误码率性能优化的预编码方式,研究了基于最小和均方误差(Minimum Sum Mean Square Error,Min-SMSE)准则的预编码。大多文献均认为无法从下行直接求解,需利用上下行对称性,先进行上行迭代求解,再等效到下行链路,迭代过程非常复杂且涉及到多维的凸优化功率分配问题,本文提出了直接运用下行迭代求解的运算方法,简化了迭代过程,且无需进行多维的功率分配优化。经过仿真验证,所提出的算法在迭代5~10次时即可收敛,复杂度降低,且能达到接近最优的误码率性能。最后,本文研究了频率选择性衰落信道下的下行多用户MIMO预编码技术。利用正交频分多路复用(Orthogonal Frequency Division Multiplexing,OFDM)的抗频选特性,给出了基于子载波联合预编码的系统模型,在多普勒频移为零时,又提出了简化的基于子载波独立预编码的系统模型,复杂度降低。仿真研究了在给出的MIMO-OFDM预编码系统模型中,各种预编码方式的误码率性能和复杂度,并研究了它们在有多普勒频移的信道下的误码率性能。针对频率选择性衰落信道下,基于Min-SMSE准则的预编码方式复杂度较高的问题,提出了几种不同的降低复杂度方式,无需在全部子载波上进行预编码,而通过分簇或插值的方式获得预编码矩阵,经过验证,所提出的插值方案具有较好的性能,能够在降低复杂度的同时尽量少地损失误码率性能。