传统的蜂窝网络技术在系统容量、覆盖和成本方面存在一定的局限性，将中继技术引入蜂窝网络可以有效改善移动通信系统的性能。但是，中继节点的引入带来了一系列的问题，当采用协作中继方式转发数据分组，需要考虑协作转发的节点选取和控制开销问题等。另外，协作中继传输方式下的信号可以通过不同的中继节点到达用户终端，因此通过中继节点之间的协作处理能够获得分集增益。本文主要针对以下两个方面展开研究：一是协作发送时的节点选择，一是中继协作分集。主要工作如下： 研究了中继增强型蜂窝系统模型下的中继选择算法，分析了它们的性能增益和实现复杂度；在中继选择算法的基础上，从多方面分析了中继增强型蜂窝系统的性能，并与传统蜂窝系统进行比较；以降低系统反馈量为目标简化中继选择算法，并仿真分析该简化算法的性能。 研究了无线通信网络中的多中继协作传输方案，分析了AF中继模式下的几种协作中继处理方案的性能。在此基础上提出了一种改进的中继空时编码协作处理方案，联合功率分配，分析了该方法的信号传输及功率分配过程，并给出了仿真结果和性能分析。 研究了OFDM系统中的分布式协作中继分集方案，分析了中继循环时延分集、中继空时编码分集、中继相干合并和中继选择分集，在中继增强型多蜂窝OFDM系统模型下进行仿真和性能分析，并与传统多蜂窝OFDM单跳系统进行比较；接着研究了中继循环时延分集方法的优化，包括基于最强主径的优化算法和基于相位线性近似的优化算法，进一步改善系统性能。