多输入多输出（Multiple-input multiple output，MIMO）技术因其在不增加带宽和发送功率下，可有效地提高无线通信的系统容量，而成为当下无线通信研究热点，且随着无线通信需要的变化，MIMO技术已由单用户向多用户发展。在多用户MIMO通信系统中，多用户干扰恶化了通信质量，严重地限制了系统容量。预编码技术作为提升无线通信性能的有效手段也被应用到了多用户干扰消除当中，通过在发端对发送数据的预处理，实现多用户干扰的消除。近来，一种干扰对齐的新方案被提出，干扰对齐考虑将多用户干扰进行干扰重叠处理，以实现期望信号与干扰信号的空间隔离，从而获取信道容量的提升，为多用户干扰消除提供了一个新的思路。论文从多用户MIMO系统的信道模型入手，关注了多用户干扰消除技术，着重对多用户MIMO广播信道下的预编码技术和多用户MIMO干扰信道下的分布式干扰对齐技术进行了研究。具体的工作如下：①分别从线性预编码和非线性预编码两方面总结分析了多用户MIMO系统下的预编码技术，并通过仿真验证了线性预编码技术虽系统容量性能不及非线性预编码，但线性预编码技术因具有较低的运算复杂度而更适用于实际的无线通信系统。②由于传统的块对角化算法因使用奇异值分解多用户信道求解无干扰的零空间而造成计算复杂度高的问题，提出结合矩阵伪逆和正交分解代替复杂的奇异值分解实现信道的块对角化，并利用LDLH分解进行等效信道的优化处理。通过仿真验证了论文提出的改进方案在保证系统误码率的情况下降低了块对角化预编码算法的计算复杂度，并在相同天线配置下获取了与块对角化算法几乎相同的系统容量性能。③对分布式干扰对齐技术在多种最优化约束准则下的性能进行了分析，在结合最大化和速率的条件下，使用满秩约束有用信号子空间和最小化干扰信号子空间的秩的方式进行干扰对齐，实现了秩约束干扰对齐算法。在不同的天线数配置下对比分析了最小剩余干扰算法和最大信干噪比干扰算法。仿真结果表明，在天线数配置和用户数满足K<min(M,N)条件下，秩约束算法获取了较好的系统容量性能。