随着宽带技术的发展,人们对移动通信也提出了更高的要求。将协同中继技术应用于无线通信系统可以提高系统容量、扩大网络覆盖、提升服务质量以及提高频谱效率和能量效率等关键性能指标,而且通过在蜂窝网中布放中继可以大大降低高速数据的传输成本,它是未来4G的关键技术之一。因此,多跳中继技术引起了学术界、产业界和标准化领域的广泛关注。本文以无线中继技术为研究背景,在多中继的编码协同系统、增量选择中继的功率分配和位置优化、LTE-Advanced Relay的方案设计,以及基于混合自组织蜂窝网的分群算法等方面做了广泛的调研和深入的研究。首先,借鉴经典编码协同的思想,结合实际应用,提出了一种基于分布式Turbo码的多中继的编码协同模型,相比传统的单中继模型,此模型可以获得多重分集增益,而且避免了用户间协同的非对称性。然后,在瑞利信道下对此模型的中断概率、分集度和误比特率性能进行了推导,并得出了其中断概率的单重积分闭式表达式和误比特率上界。最后,进行了仿真,通过仿真结果可以直观看到编码协同方案较重复转发方案的诸多性能优势,这归因于编码协同增量冗余的编码增益,并且理论界和实际仿真结果实现了很好的拟合,得到了相互印证。另外,为了提高引入中继后LTE-Advanced系统的物理层性能,还提出了一个基于TypeⅡRelay的编码协同方案。其次,和其它中继策略相比,基于放大转发的增量选择中继(ISAF)具有最佳的性能,本文提出了一种基于ISAF中继的功率分配和中继位置联合优化方案以降低系统的中断概率,并推导了其基于接收端最大比合并的最优功率分配算法的闭式解。从仿真结果可以看出,本文提出的方案的性能优于平均功率分配方案,如果在相同的中断概率下可以使用较小的发射功率,相比平均功率分配方案大概有9dB的性能增益。多跳中继是下一代的移动通信系统LTE-Advanced中的一项重要的空中接口技术,本文搭建了基于LTE-Advanced中继的系统级仿真平台,通过这个平台可以对中继中采用的新方案的进行评估验证,比如,站址规划技术,多用户MIMO方案设计,以及回传链路的增强方案等。为了解决回传链路的瓶颈问题,本文提出了多种MIMO方案进行了对比,比如EBB算法、块对角化算法以及信泄漏比算法等,并且通过仿真证明多用户方案更适合回传链路传输。另外,为了提高整个小区的吞吐量,还提出了一种基于回传链路和接入链路平衡原理的正比公平调度算法,并将此算法应用于整个中继网络的系统级仿真中。最后,为了提高下一代无线蜂窝网的吞吐量和系统性能,针对混合自组织蜂窝网络提出了分群算法。具体实现方式为：首先将用户分为两部分,一部分为超级用户,位于小区的中心区域；另一部分为普通用户,位于小区的边缘。超级用户由基站直接提供服务,普通用户必须通过所在群的群首转发信息才能和基站进行通信,而群首通过分群算法从普通用户组中选出。从仿真分析可以看出,这种方法可以大大改善用户的信噪比分布,提高整个系统的吞吐量和小区边缘用户的吞吐量。