无线通信技术的蓬勃发展以及网络基础设施的不断完善,促进了移动宽带用户持续增长并带来无线通信产业的指数爆炸式增长。通信用户的持续增长必然会带来频谱资源短缺的问题。而在通信领域,频谱资源是十分稀缺的。另一方面,移动宽带用户数量的增多也会造成通信速率降低,影响通信质量。因此,如何提升频谱资源的利用率,提高通信速率,成了亟待解决的问题。无线中继技术以及MIMO技术是解决这一问题的有效技术。MIMO技术通过在通信系统发射端和接收端装备多根天线,以获得空间分集和复用增益,提高系统频谱利用率,降低系统错误概率。中继技术通过利用系统中间节点转发信息,能够提升通信距离,增大网络覆盖面积,提升通信系统性能。两时隙模式协议和乒乓中继协议是中继系统的两种工作协议。两时隙协议中,中继节点在奇偶时隙交替接收转发源节点传输来的信号。两时隙协议会带来频谱效率损失一半的问题。为了解决这个弊端,乒乓中继协议通过两个不同的中继交替接收和转发源节点传来的数据,使系统中的中继近似工作在一种全双工模式,从而达到弥补频谱损失的目标。尽管对乒乓中继协议的研究很多,但目前的研究主要针对的是两个中继单天线或多天线的情况,对于多中继多天线下的乒乓中继协议的情况研究还比较少。在本文中,我们研究MIMO多中继系统中的乒乓中继传输方案设计、性能分析以及优化。首先,我们设计一种基于放大转发和匹配接收的多天线乒乓中继传输方案,包括其中的中继转发规则、源节点以及中继节点的多天线预编码矩阵。这种方案的优点是源节点(基站)和目的节点(用户)仅仅需要信道统计信息,而中继节点仅需要本实时信道信息。其次,通过理论分析和公式推导,我们得出了该传输方案的系统可达速率以及容量尺度率。作为对比,我们推导了采用两时隙中继协议的系统可达速率和尺度率。我们证明了,所提出的基于乒乓中继的传输方案达到的系统可达速率尺度率是两时隙协议的两倍,并且其尺度率达到了该中继系统的容量尺度率。这说明在中继数目达到一定规模时,采用乒乓中继协议算法可以有效弥补两时隙协议造成的频谱效率损失。最后,我们分析了系统中对系统性能可能造成影响的各个要素,设计了一种基于差分进化的联合资源优化算法。该算法迭代优化源节点的多天线功率分配矩阵以及中继分组(包括分组顺序以及中继组分界线),可以进一步提高系统可达传输速率。