利用MIMO无线信道可以提高无线通信系统的链路可靠性和数据传输速率，当发射端未知信道状态信息时，可以采用如空时编码、空分复用等技术充分利用MIMO无线信道的分集增益和复用增益以提高系统性能。当发射端已知全部或部分信道信息时，可以采用预编码之类的技术提高系统的可靠性和数据传输速率。在多用户环境下，除了上述技术外，还可以通过恰当的用户调度利用多用户分集，以提高系统吞吐量。本论文研究内容包括开环MIMO无线通信系统中的空时传输技术及其相应接收机技术，闭环MIMO无线通信系统中的预编码技术，多用户系统下行链路的用户调度以及基于码本的空分多址接入技术。论文的主要贡献列举如下： 1．提出了一种MIMO-OFDM高分集度多码字分层传输方案，该方案发射端并不需要任何信道状态信息，采用的子载波两维分组线性星座预编码技术能在不损失速率的前提下显著提高系统的发射分集度(空间分集、频率分集)。针对上述发射系统，同时提出了一种基于最大信干噪比准则线性滤波器的软输入软输出检测方案，采用该检测方案的迭代接收机具有较低的复杂度，并对线性星座预编码引起的等效信道的列相关性增强具有一定的鲁棒性，比传统的低复杂度迭代接收机具有更快的收敛速度。 2．提出了一种空时编码OFDM和多维波束形成的组合技术，该方案充分利用了发射端已知的信道二阶统计信息，设计灵活、简单，并进行了详细的理论推导，分析表明：该方案能获得期望的发射分集度和最大编码增益，对于相同的空时编码方式，增加实际发射天线数时系统的编码增益能得到准线性的提高，信道环境相关性越强时，通过增加实际发射天线数所获得的编码增益的效率越高。 3．针对空时分组编码和空分复用混合系统提出了一种鲁棒性的预编码技术，该技术首先把系统等效成几个并行子系统，然后对子系统进行单独的预编码设计，这样可以减少所需反馈信息量。该技术同时考虑了反馈误差，在设计预编码时采用了一种鲁棒性的优化方案。针对上述混合系统同时提出了一种自适应天线分配技术，发射端自适应为空时分组编码分配发射天线组，当接收机采用逐次组间干扰消除检测方法，该技术能以非常小的反馈开销显著提高系统的性能。该技术还利用了QR分解特性简化了天线分配的复杂度。 4．提出了一种使用主码本结合辅助码本的有限反馈预编码技术，在原有预编码码本的基础上，额外设计一个尺度较小的扰动码本，接收端根据信道状态信息在原有码本中选择一个最优码字后，再选择一个最优的扰动码字，两个首选码字的乘积作为预编码矩阵。这种方式能以很小的反馈代价充分考虑同一子空间内不同预编码矩阵形式对线性接收机系统的性能影响，进一步提高预编码系统的性能，文中同时给出了两种形式的扰动码本设计及其使用方法，并对旋转形式的扰动码本设计进行了详细的理论分析。 5．提出了一种多用户MIMO-SDMA系统下行链路的随机预编码与复用技术，该技术的预编码矩阵是在给定的码本内进行随机选取，然后调度信道条件匹配的多个用户。该技术采用了一种逐次调度的方式，通过多次训练逐次选择用户和预编码矩阵，这种方式能以很小的反馈量充分控制复用用户之间的相互干扰。 6．提出了两种下行链路的快度调度SDMA方案，首先设计了一个由多个子空间堆积并在每个子空间内有不同扰动的SDMA码本，在结构上表现为码本包含多个簇。然后提出了两种基于码本的多用户快速调度技术，一种称为Markov调度技术，该技术联合利用了前后两次调度的用户反馈信息，能在快速调度多个用户进行SDMA的同时有效控制复用用户之间的相互干扰，并对不同的码本具有一定的通用性。另一种称为快速匹配调度技术，该技术充分利用了SDMA码本的分簇结构，能以很小的反馈开销快速完成SDMA的用户调度，并具有很优的吞吐量性能。