随着移动通信技术的发展,人们在享受它给我们带来的便捷的同时也对其提出了更高传输速率和更高传输质量的要求,如手机上网、视频传输等高速数据业务,这使得传统的蜂窝网络面临着巨大的挑战。为了实现未来无线移动通信系统的高数据速率、高频谱效率、高覆盖范围等目标,新技术不断涌现,其中中继协作通信技术和多输入多输出(MIMO)技术就是两个典型的代表。中继协作通信具有扩大覆盖范围、提高传输质量、减少覆盖“盲点”等作用,MIMO技术可在不增加频谱资源和发射功率的情况下成倍的提升系统容量。两种技术结合起来组成的MIMO中继通信网络将使系统性能得到更大的提升。在中继网络中,中继所起的作用就是对信号进行转发,中继对信号的转发方法将对系统性能产生很大影响,因此对中继转发矩阵进行优化是提高中继系统性能的一个重要手段。本文首先对中继转发矩阵的优化原则进行了分析,总结出了两种中继转发矩阵的优化原则:等效矩阵三角化原则和等效矩阵对角化原则。其次,本文在MIMO系统的预编码和检测技术的理论基础上,运用等效矩阵对角化原则提出了一种适合在第二跳信道状况不太理想时使用的中继波束成形方案:最小均方误差接收-匹配发送波束成形方案,并由仿真结果得出其在系统容量和误码率方面比以往的方案都有较大的改善。