多输入多输出(MIMO)作为IEEE 802.16m的关键技术,可以极大的提高用户吞吐量和扇区频谱效率。多用户MIMO的研究包括上行链路和下行链路两个方面。本文首先研究了下行的单基站多用户MIMO。用户间干扰是影响多用户MIMO性能的主要因素,而预编码技术可以有效的消除用户间干扰。IEEE 802.16m中的预编码分为基于码本的预编码和基于探测信号的预编码。针对基于码本的预编码,本文提出了一种降低配对用户间干扰的方案,通过使用迫零算法调整多用户的预编码矩阵,可以有效的提升系统性能。针对基于探测信号的预编码,论文主要讨论了块对角化算法,该算法可以消除用户间干扰,但是存在一些缺点：一是它无法支持接收天线数大于发射天线数的多用户MIMO,论文针对这一问题提出了增强型块对角化算法：二是它只考虑了小区内干扰,没有考虑小区间干扰,论文又提出了一种收发联合设计的块对角化算法,有效的抑制了来自其他小区的干扰。另外,为了在FDD模式下也能够利用块对角化算法及其改进算法来提高系统性能,论文提出了FDD模式下的块对角化方案。接着,论文讨论了下行多基站协作的多用户MIMO,给出了发送端预处理算法和接收端检测算法,并提出了固定协作方案和动态协作方案。经仿真验证,多基站协作的多用户MIMO能有效的改善系统性能。最后,论文给出了上行多用户MIMO的系统模型,讨论了上行多基站联合检测算法,并将正比公平调度和正交用户配对准则相结合,提出了一种新的调度算法,有效的提高了系统性能。