MIMO技术可以在不增加系统频谱带宽和发射功率的情况下,显著提升通信系统的容量。无线中继技术可以克服由于大尺度衰落引起的信号强度随传输距离的增加而显著下降的问题,能够提高无线网络的系统容量和覆盖范围。MIMO技术与中继通信技术的有效融合,产生了MIMO无线中继技术,该技术具有MIMO和中继两种技术的突出优势,已经成为未来4G中的重要技术。本文主要研究了点对多点的MIMO无线中继通信系统和多点对多点的MIMO无线中继通信系统,研究的重点是在获取尽可能高的自由度即复用增益时,通信方案的具体实现形式以及相应的天线配置约束条件。首先,本文提出了一种基于预编码和网络编码的点对多点的MIMO无线中继通信方案,该方案利用信号空间对齐技术和零空间抑制技术来设计预编码矩阵,消除多用户干扰,并利用网络编码技术的特点,可以实现源节点与多个目的节点之间占用相同的时频资源来相互通信,大大提高了通信系统的自由度和传输效率。在此基础上,又进一步采用接收天线选择技术来扩展该方案的天线配置条件,使该通信方案的天线配置条件更为广泛,在实际通信中,可以根据不同准则在各种可行的天线配置中进行灵活选择。其次,本文还提出了一种优化自由度的多点对多点的MIMO无线中继通信方案,用于实现多个用户节点间通过一个中继节点的辅助转发使占用相同时频资源的节点进行相互通信。该方案采用一种“数据流分组”的思想,实现了多向中继传输,即在天线.配置条件允许的情况下,将原来的单流数据分解成并行的多流数据进行同时同频传输,使得每个通信用户对之间可以交互多路独立信息流,大大提高了系统的自由度和复用增益。与此同时,也可以根据实际通信场景来动态地选取独立信号流的数量,在复用增益和分集增益之间进行折中。仿真结果也表明,利用本文提出的算法可以提高自由度和传输效率。