未来无线移动通信系统对数据传输速率、通信可靠性及有效性提出了更高的要求。分集技术是提高通信链路可靠性的有效方式,一般分为：空间分集、频率分集和时间分集。由于移动终端体积受限,无法利用多天线技术获得空间分集增益。而协同中继技术作为一种新的空间分集形式,能够在不增加终端体积的情况下获得空间分集增益,受到人们的普遍关注。协同中继技术充分利用了无线电波的广播特性,使无线网络中的节点相互协作形成了虚拟的天线阵列来实现空间分集,提高了系统的抗衰落能力及系统容量,成为未来宽带无线通信系统物理层的关键性技术。协同中继系统根据在中继节点对接收信号的处理方式不同可以大致分为：放大中继(AF)、解码中继(DF)及编码协作(CC)。本论文主要针对两跳放大中继系统和解码中继系统的性能进行全面分析,并对其中的分集技术及信道估计算法进行深入的研究。本论文的主要工作及创新点包括以下内容：第一,针对放大中继系统,提出了一种新的性能分析方法,研究放大中继在非对称Nakagami-m衰落信道下的各性能参数,包括固定增益中继和可变增益中继的总信噪比的概率密度函数(PDF)、固定增益中继链路的矩母函数(MGF)、各阶矩以及衰落总量(AoF),并推导出各性能参数的数学表达式。对于可变增益中继链路,为了便于处理,我们利用概率密度函数的近似值推导出矩母函数、各阶矩以及衰落总量的界。基于此,我们求得固定增益中继链路平均符号错误概率的准确值及可变增益中继链路平均符号错误概率的近似值。推导出的理论结果通过计算机仿真得到验证,为评价放大中继系统实际性能提供了重要的理论参考。第二,在解码中继系统中,研究了固定解码中继和选择性解码中继在非对称Nakagami-m衰落信道中的各性能参数包括总信噪比的概率密度函数、累积分布函数、中断概率、瞬时总信噪比的各阶矩、衰落总量及平均误符号率。并推导出了各性能参数的闭式数学表达式,通过计算机仿真验证了得到的理论结果。此外,我们还给出了多用户情况下采用最大接收信噪比调度算法的系统中断概率闭式表达式。这些性能参数从各个不同角度描述了固定解码和选择性解码中继通信系统的性能,所推出的性能参数表达式均由容易处理的特殊函数组成,对评价解码中继系统的性能具有重要理论价值。第三,在移动蜂窝通信系统中,基站配置多天线是可行的。在基站作为信源节点并且配置多天线的情况下,针对一个信源节点、多个中继节点、多个用户的场景,采用了最大接收信噪比调度算法,研究了该场景下固定增益放大中继和可变增益放大中继系统的中断概率性能。并推导出固定增益放大中继系统与可变增益放大中继系统的中断概率闭式表达式。针对可变增益放大中继系统,采用极限逼近的方法,求得其分集度的准确值。计算机仿真验证了我们的分析结果。最后,在放大中继链路系统中,采用OFDM调制技术,研究了三种信道估计算法包括最小二乘算法、线性最小均方误差算法及低阶最小均方误差算法在放大中继链路中的性能。仿真结果表明：线性最小均方误差算法性能较好,但复杂度高。低阶最小均方误差算法性能接近线性最小均方误差算法,其乘法计算次数减少,复杂度降低。