随着人们对移动通信业务需求的不断增长,移动通信系统正朝着高速、宽带、多业务和低成本的方向飞速发展。未来无线通信系统需要支持更高速率,更大容量,以及更广覆盖。协作中继技术能有效抵抗无线信道衰落,提高系统容量,扩大系统覆盖,已成为长期演进增强系统(LTE-A)中的重要候选技术。本文针对下一代移动通信系统中的协作中继传输这一当前热点,在国内外学者的研究基础之上,对于支持协作中继传输技术的未来无线网络中的若干关键技术进行了深入研究,其中在MIMO中继传输系统中基于码书的预编码技术和自适应功率分配等方面做了一系列的工作,主要贡献如下：提出了适用于两跳信道的基于码书的预编码方案。提出的码字选择方案能够允许中继端和终端独立选择适合于基站和中继端的码字,因此降低了系统反馈开销。基于此码字选择准则,还提出了码书设计准则,该准则表明现有的用于单跳MIMO系统的Grassmannian码书可直接使用于MIMO中继系统。提出了适用于MIMO中继系统的新码书设计。现有的Grassmannian码书虽然在低空间相关性信道环境下表现出很好的性能,但是在高空间相关性环境下性能有着明显的恶化。因而不能很好的解决多种信道环境下的MIMO中继预编码问题。因此提出了一种改进的K均值算法。使用该算法能生成适用于多种信道环境的码书。此外,依据此码书提出了拟在保证低反馈复杂度和延迟上的码字选择方案。在实际系统中,在发射端不能获得精确的信道状态信息条件下,研究基于部分信道状态信息条件下的功率控制问题。本文作者拟在保证降低反馈复杂度的前提下,提出了基于有限反馈的两跳MIMO中继系统混合码书设计方案,以达到最大化系统容量的目的。