协同中继技术能够实现未来无线通信系统的高速数据传输,使无论处于离基站近还是离基站远的用户都能获得一样的服务质量,同时能够扩展基站覆盖范围,实现多种无线网络的融合。分析无线协同中继技术对无线通信系统带来的性能增益是无线协同技术研究的一个重要课题。本文首先对协同中继信道进行建模,研究了几种协同中继信道的容量,分析得到了功率配置,中继位置,中继数量等各种因素对信道容量上界的影响。已有研究大都基于较为简单的瑞利(Rayleigh)衰落模型对协同中继技术在衰落信道中的性能分析,无法应用较为复杂的实际衰落信道。在实际的无线环境中,Nakagami-m分布能够更好表征信道的衰落特性,同时体现出多种不同的信道衰落情况。基于Nakagami-m衰落模型,利用矩母函数和拉普拉斯逆变换方法,本文分析了放大转发中继协议与解码转发中继协议的中断性能,得到了多种因素以及不同适用场景对两种中继协议中断性能的影响。异构协同中继技术能够使不同的异构无线网络协同工作,针对异构无线协同中继信道的特点,本文提出一种异构协同中继信道模型,对异构协同中继信道的容量进行了分析,并与同构协同中继信道的容量进行比较,揭示两种不同中继信道各自具有的特点以及适用的场景。基于Nakagami-m衰落模型,分析了异构协同中继信道的中断性能,并与同构协同中继信道进行比较,深入研究了异构与同构协同中继信道各自的特点以及中断概率性能上的差异,得到不同场景下中继数量的配置对中断概率性能产生的影响。考虑反馈信道受限的场景,本文提出一种可以适用于反馈信道受限情况下的自适应转发中继协议。利用矩母函数和拉普拉斯逆变换的方法,分析了该协议在Nakgami-m衰落信道下的中断概率性能,得到了其中断概率的近似表达式,并与现有的解码转发中继协议和放大转发中继协议进行比较,分析其适用场景。本文还进一步分析了工作中继数量对系统性能所造成的影响,证明了该协议的优势和特性。针对无线广播系统的特点,本文提出了一种采用叠加码技术的分级协同广播系统模型。分析了采用叠加码技术的协同中继系统的性能以及影响其性能的各项参数,并详细分析了各项参数对系统性能的影响。同时,基于Nakagami-m衰落模型,对采用叠加码技术的协同中继系统的中断性能进行了深入分析,得到了中继与用户位置,功率配置等对系统中断概率的影响。