多用户MIMO中继系统可以充分的利用基站以及中继多天线的特性，在提供额外空间增益(包括分集增益和复用增益)的同时,能够扩大无线网络的覆盖范围，并且降低无线接入成本，降低系统拓扑结构的复杂度。然而，要发挥出多用户MIMO中继系统的性能，就要依靠预编码和功率分配等技术。所以，论文以下一代蜂窝无线通信系统中的多用户MIMO中继模型为背景，围绕基站和中继的联合预编码以及功率分配问题做深入研究，主要目的是为有直接链路的多用户MIMO中继系统设计一种可行的联合预编码与功率分配方案，并验证这种系统方案实现的可行性。论文主要工作如下：1.搭建了存在直接链路的多用户MIMO中继系统模型，并分析该系统模型与无直接链路的多用户MIMO中继系统模型的区别与性能差异。2.设计了一种联合预编码策略，以有效解决多用户干扰问题以及直接链路导致的信道矩阵复杂化问题。基于这个编码策略，提出一种以容量最大化为目标的功率分配算法，并且通过简化目标函数，在大幅降低计算复杂度的情况下求解这个非凸非线性的优化问题。仿真分析，所提的传输策略能够有效抑制多用户干扰，并使系统性能获得明显的提升。3.使用有限字符集替代常规的高斯信源，推导出在这种实际的信源下系统的容量公式。将联合预编码设计和功率分配策略代入有限字符集信源，验证系统的可行性，以及观察性能的提升幅度。通过仿真验证，所提的预编码和功率分配策略，可以很好的应用在实际的有限字符集信源下，并且功率分配能够带来明显的性能增益。