多输入多输出(Multiple Input Multiple Output, MIMO)中继技术结合了MIMO技术和中继技术的优点,为系统提供空间复用增益和空间分集增益的同时,还能利用中继技术提高无线通信系统的覆盖范围和通信传输的可靠性。收发处理技术是进一步提高MIMO中继系统性能的重要手段,因而受到了学术界的广泛关注。在MIMO中继系统中,收发处理设计不仅包括了信号发射端的预编码设计和接收端的检测矩阵设计,还包括了中继的预编码设计,在MIMO多用户中继系统中,除了噪声干扰,还存在着用户间的干扰,同时拓扑结构变得更为复杂,这些因素使得收发处理设计更具有挑战性。本文主要针对MIMO多用户单向中继下行系统和多用户对双向中继系统进行了收发处理技术研究：针对MIMO多用户单向中继下行系统,传统的应用于中继处的块对角化算法虽然能完全消除用户间干扰,但由于该算法未考虑噪声对系统的影响导致误码率在低信噪比区域较高。为了降低信噪比区域的误码率,本文同时考虑用户间干扰和噪声的影响,提出了一种基于正则块对角化的迭代收发处理设计。首先将中继预编码矩阵分解为两部分：第一部分可视为基站-中继链路的检测矩阵,并与基站预编码矩阵进行基于反注水功率分配算法的联合收发处理设计；第二部分可视为中继-多用户链路的预编码矩阵,在中继-多用户链路中,先在中继处利用正则块对角化算法抑制用户间干扰和噪声,再联合用户检测矩阵和中继预编码矩阵进行迭代收发处理。仿真结果表明,和已有算法相比,本文所提算法在低信噪比区域能获得较好的误码率性能,且可以快速收敛。针对MIMO多用户对双向中继系统的收发处理技术研究,由于现有收发处理的算法中每个节点需要知道所有的信道状态信息且对用户的预编码矩阵设计时需要对所有用户联合迭代求解,这样会导致反馈开销大和计算复杂度过高。本文提出了一种低开销、低复杂度的联合用户预编码矩阵、中继预编码矩阵和用户检测矩阵的迭代收发处理。首先本文在中继处使用块对角化分解将多用户对中继系统的收发处理设计问题分解为多个单用户对双向中继的收发处理设计子问题,从而使用户收发矩阵设计只需要获得成对用户的信道信息,针对该子问题,现有算法需要联合成对用户迭代设计其预编码矩阵,本文提出一种各用户独立设计其预编码矩阵的简化算法,无需用户间迭代,从而进一步降低算法复杂度。仿真结果表明,与已有算法相比,本文设计的简化发射端预编码的迭代算法收敛速度更快,计算复杂度低,同时误码率性能和遍历容量性能也逼近简化前的算法。