MIMO(Multiple-Input Multiple-Output)中继系统继承了MIMO技术和中继技术的优势,能够提供更多的空间自由度用于对抗信道衰落、提高传输的可靠性和有效性以及扩大小区的覆盖范围等,具有广阔的应用前景。在MIMO中继系统中,能否充分利用系统提供的自由度获得最优的分集性能主要取决于接收合并方案的设计,其中涉及的关键技术有合并检测技术和中继选择技术。前者用于解决如何从来自不同传输路径和天线上的信号副本中有效地恢复数据并使系统获得全分集的问题,后者则用于当系统中继个数较多时,在保证系统分集增益的同时提升系统的信号解调效率和优化资源利用。因此,研究MIMO中继系统的合并检测技术和中继选择技术具有重要的理论意义和实用价值。本文将围绕这些关键技术对多种实用性的MIMO中继系统展开研究。鉴于复用MIMO中继系统能够同时提供较高的传输速率和分集增益,论文首先针对复用MIMO放大转发(AF,Amplify-and-Forward)单中继系统提出一种最大似然合并(MLC,Maximum Likelihood Combining)算法。该算法基于最大似然(ML,Maximum Likelihood)准则推导得到维度较低的合并信号矢量和等效信道矩阵,使后续ML检测的计算复杂度较低。为了评估MLC算法的性能,文中推导得到了采用MLC算法和ML检测时系统的成对错误概率(PEP,Pairwise Error Probability)上界,并利用该上界分析系统的分集增益和得到误符号率(SEP,Symbol Error Probability)上界。另外,文中对比分析了已有合并检测方案与采用所提MLC算法的合并检测方案的计算复杂度。数值仿真结果表明:所提MLC算法能够使系统获得与已有合并检测算法相同的SEP性能同时计算复杂度更低。此外,仿真结果验证了分集增益分析和所提SEP上界的准确性。其次,论文针对复用MIMO译码转发(DF,Decode-and-Forward)单中继系统提出一种加权合并(WC,Weighted Combining)算法。该算法首先通过引入加权因子扩展了基于近似ML准则的检测形式,然后将中继检测误差矢量的搜索空间扩展到整个复数域,并利用Wirtinger求导理论得到中继检测误差矢量的估计值,从而使合并检测转化为传统ML检测的形式,同时所得的合并信号矢量和等效信道矩阵的维度相比直传链路未增加。并且,该算法可以通过调整加权因子的取值减小中继误差矢量估计引起的性能损失。文中借助推导得到的近似PEP上界对采用所提WC算法和ML检测时系统的分集增益进行分析,并得到SEP上界。文中还对比分析了针对复用MIMO DF单中继系统的不同合并检测算法的计算复杂度。数值仿真结果表明:所提WC算法使系统获得全分集和接近采用近似ML检测器时的SEP性能,并与复杂度最低的扩展协同最大比合并(EC-MRC,Extended Cooperative Maximum Ratio Combining)算法具有相同的复杂度阶数,因此实现了性能和复杂度的有效折中。此外,仿真结果验证了理论分析和所提SEP上界的正确性。随后,论文对MIMO AF单中继扩展系统的合并检测算法和中继选择算法展开研究。首先针对采用全速率空时块码(FSTBC,Full-rate Space-Time Block Code)的MIMO AF单中继辅助设备到设备(D2D,Device-to-Device)系统提出两种低复杂度合并检测算法,分别为基于MLC算法的合并检测算法和统计量合并部分估计(SCPE,Statistic Combining Part Estimation)合并检测算法。其中所提的SCPE算法能够分开提取不同传输路径的信号中的统计量,因此更适用于并行处理结构。文中进一步给出这两种合并检测算法的分集增益分析,并通过仿真验证了其正确性。数值仿真结果表明:所提的两种合并检测算法能够获得与基于ML准则的合并检测算法相同的SEP性能且复杂度阶数仅为其复杂度阶数的平方根,并且相比复用MIMO单中继系统,采用FSTBC的MIMO单中继辅助D2D系统能够获得更高的分集增益。然后,针对复用MIMO AF多中继系统文中提出一种基于最小对角特征值(MDE,Minimum Diagonal Eigenvalue)选择准则和分层搜索(LS,Layer Searching)的中继选择算法,并对比分析了所提中继选择算法与已有中继选择算法的计算复杂度。数值仿真结果表明:相比已有适用于两阶段传输的复用MIMO AF多中继系统的中继选择算法,所提中继选择算法具有明显的SEP性能优势,且接近最优的基于最大PEP(MPEP,Maximum PEP)选择准则和穷举搜索的中继选择算法的SEP性能;当中继个数或节点配置天线数较多时,所提中继选择算法具有较低的计算复杂度。最后,论文研究了MIMO DF单中继扩展系统的合并检测算法和中继选择算法。首先针对采用FSTBC的MIMO DF单中继辅助D2D系统提出两种低复杂度合并检测算法,分别为基于WC算法的合并检测算法和近似白化SCPE(AWSCPE,Approximate Whitening SCPE)算法。与所提的SCPE算法类似,AWSCPE算法同样具有易于并行处理的结构。但与SCPE合并检测算法不同的是AWSCPE算法在提取统计量前需要做近似白化处理以降低中继检测误差对目的节点处信号解调的影响。文中对以上两种合并检测算法的分集增益进行分析并通过数值结果验证了其正确性。仿真结果表明:所提两种合并检测算法能够以较低的计算复杂度获得全分集和接近基于近似ML准则的检测器的SEP性能。然后,针对复用MIMO DF多中继系统本文提出一种基于多误差矢量估计(MEVE,Multiple Error Vectors Estimation)的合并检测算法。该算法是对WC算法在多中继系统的扩展,即当中继个数为1时,基于MEVE的合并检测算法等价于WC算法。文中还给出针对复用MIMO DF多中继系统的基于MPEP和最小特征值(ME,Minimum Eigenvalue)的中继选择准则,并对比分析了采用不同适用于复用MIMO DF多中继系统的合并检测算法和中继选择算法的系统方案的计算复杂度。最后针对复用MIMO混合多中继系统提出一种通用的合并检测算法和两种分别基于MPEP和ME的中继选择准则,其中所提的通用合并检测算法是对MLC算法和基于MEVE的合并检测算法的扩展,即当混合中继系统中只采用一种中继协议时,所提的通用合并检测算法蜕变为适用于AF中继系统的MLC算法或适用于DF中继系统的基于MEVE的算法。仿真结果表明:采用所提的合并检测算法和中继选择准则能使复用MIMO DF多中继系统获得接近最优的SEP性能,且所需的计算复杂度明显低于具有最优SEP性能的系统方案。另外,文中通过数值仿真测试了采用不同协议的中继个数对所提通用合并检测算法和中继选择算法的性能影响。