多输入多输出（MIMO）技术可以在不增加系统带宽的前提下显著提高系统的传输速率和链路可靠性，是未来移动通信系统的关键技术之一。在多用户MIMO系统下行链路中，利用发送端获知的信道状态信息（CSIT）对发送信号进行预处理（也称为预编码）不仪可以解决复用用户之间的干扰问题，提高系统的传输速率和链路可靠性，还可以降低接收机的复杂度，解决移动台的功耗问题。因此，对多用户MIMO系统下行链路中的预编码技术进行研究，有着重要的理论意义和应用价值。
　　 本论文围绕多用户MIMO系统下行链路中的预编码问题展开研究，主要工作包括以下四个部分：
　　 （一）研究了采用最小均方误差（MMSE）预编码的多用户MIMO系统下行链路中的用户选择问题。这部分工作基于理想CSIT的假设。该问题的最优解可以通过穷举搜索法获得，但是其计算复杂度较高。因此，本文首先提出了一种基于和速率的贪婪用户选择算法，该算法依次选择使和速率最大的用户。为了进一步降低算法的计算复杂度，论文随后提出了一种基于MSE的贪婪用户选择算法，该算法在每步的用户选择中都以最小化MSE为准则。对穷举搜索法以及所提出的两种用户选择算法的计算复杂度分析表明，基于MSE的贪婪用户选择算法的计算复杂度要低于基于和速率的贪婪用户选择算法，且这两种算法的计算复杂度都远低于穷举搜索法。仿真结果表明所提出的两种用户选择算法都能获得接近穷举搜索法的遍历和速率性能。
　　 （二）研究了多用户MIMO系统下行链路中基于理想CSIT的发送波束成型问题，提出了一种混合波束成型方案。该方案将迫零波束成型（ZFBF）与正交波束成型（OBF）合并在一起，只对信道准正交的那部分用户采用ZFBF，而对其它用户则采用相互正交的波束成型向量，且这些正交波束成型向量在ZFBF用户信道向量张成子空间的正交补空间内生成。最优的混合迫零/正交波束成型方案在选择用户及其波束成型策略时需要采用穷举搜索法。为了降低计算复杂度，论文进一步提出了一种基于贪婪搜索的次优方案。此外，论文还从理论上证明了混合迫零/正交波束成型方案的最大可达和速率大于ZFBF方案和OBF方案的最大可达和速率。仿真结果表明，所提出的混合波束成型方案能够结合ZFBF方案和OBF方案的优点，获得比这两种方案更好的遍历和速率性能。
　　 （三）研究了有限反馈多用户MIMO系统下行链路中基于信道方向信息量化反馈的鲁棒预编码问题。在所考虑的系统中，各个用户将其信道方向信息量化后通过反馈信道反馈给基站。我们假设反馈信道是无误差的，考虑了反馈无延时和有延时两种情况。论文提出了一种鲁棒MMSE预编码方案，该方案基于MMSE准则来设计。首先计算出给定量化的信道方向信息下MSE的条件期望，并以此作为优化的目标，然后通过最小化该条件期望，得到了有闭合表达式的设计结果。将该设计结果和传统MMSE预编码矩阵进行比较，可以看出两者的差别主要在于矩阵求逆中修正因子的不同，因此所提出的鲁棒MMSE预编码方案和传统MMSE预编码方案具有相似的复杂度。仿真结果表明本文所提出的鲁棒MMSE预编码可以获得优于传统ZF和MMSE预编码方案的性能。
　　 （四）针对采用每用户正交码率控制（PU2RC）方案的有限反馈多用户MIMO系统下行链路，提出了一种多模发送方案。该方案通过最大化系统的遍历和速率来自适应地选取发送模式，即系统同时传输的并行数据流数目。由于直接计算系统的遍历和速率比较困难，论文推导出它的一个上界，并以最大化该上界来简化发送模式的选取。仿真结果表明，当系统中用户数不大或SNR较高时，所提出的多模发送方案的遍历和速率明显大于传统PU2RC方案。