近年来，无线通信领域正飞速发展。MIMO技术通过在发送端和接收端增加天线数目来实现空分复用，提高分集增益，在不需要额外带宽和发射功率的情况下提高频谱利用率，改善通信可靠性。无线协同中继技术能支持更高速率的数据传输，提高频谱效率，扩大覆盖面积，对抗衰落，提高系统容量。而MIMO协同中继可以看成是增加中继结点的数目会增加协作传输系统的复杂度，但同时能够带来更高的多天线增益的一种新型协作方式。MIMO协同中继系统中中继预编码设计的研究成为近几年最为关注的热点之一。中继预编码不仅能提高信道容量，还能提升链路质量。然而一些已经存在的中继预编码方式采用了基于迫零（Zero Forcing, ZF）准则或者最小均方误差（Minimum Mean Square Error, MMSE）准则的线性预编码方式，且在接收端采用了线性接收机，大多数只考虑了在中继点进行预编码。有些研究甚至忽略了直接链路信息。这些预编码方式都限制了系统的性能。因此，一种信源中继联合预编码并且在接收端采用非线性接收机的预编码方式应运而生。最为典型的是基于几何均值分解（Geometric MeanDecomposition, GMD）的信源中继联合预编码的设计，其已经被广泛应用于两跳系统中。与已经存在的预编码方式相比其大大提高了系统的性能。本文中我们把基于GMD的信源中继联合预编码方法应用于MIMO协同中继三跳系统中，充分利用直接链路和中继链路提供的信道状态信息，应用矩阵分析理论把联合预编码中预编码矩阵的求解问题转化成关于标量的最优化问题。最后，通过采用最优化软件LINGO和C++混合编程得到最优解。仿真结果表明，在三跳系统中，此方法同样大大提高了系统的性能。又因为三跳系统相比两跳系统有更多的优势，比如有更大的覆盖范围、可以减少通信中的死角地区等，所以将此方法用于三跳系统中具有更大的价值。