MIMO系统中单个终端安装多天线受到终端尺寸,体积和功耗等的限制,而协作通信技术的出现解决了这一难题。协作分集技术通过利用空间中独立分布的中继节点构成虚拟MIMO系统,从而获得空间分集,近年来已经成为无线通信领域新的研究热点。单中继协作协议主要有AF和DF协议,其中AF协议指中继在收到源节点的信号后进行放大转发,该协议简单,系统复杂度低,但在放大噪声的同时容易放大噪声,带来噪声延播；DF协议是指中继对接收到的源节点的信息进行译码,并判断译码正确与否,如果译码正确就向目的节点转发译码后信息,系统能够获得较好的性能,但是对中继要求较高,系统较复杂。Laneman在2004年提出了增强中继的概念,和ARQ技术相结合,如果直传链路失败,则中继进行协作转发,目的节点结合信源直传和中继转发的信号进行译码,如果直传链路成功,则中继退出协作。增强中继技术通过结合ARQ技术进行跨层联合优化,提高了系统的频谱利用率同时也获得了理想的系统中断性能。空时编码是MIMO技术中的关键技术,被引入到协作通信中形成了分布式空时编码,在多中继协作场景中得到了广泛应用。本文首先从协作通信的几种应用场景出发,分析了三种常用的协作协议,并介绍了在本文中涉及的有关协作通信的几种关键技术。根据节点间距离信息对中继协议性能的影响,我们提出了基于距离信息的协议切换方案。对于三节点经典模型,考虑路径损耗因素,基于中断概率最优,通过理论推导和系统仿真得到临界距离比值,利用该临界距离值进行协议转换,在降低系统复杂度的基础上保持了系统较好的中断性能。对于两中继分布式STBC协作场景,我们分析了SNR和节点间距离对系统性能影响大小,设计了基于网络拓扑结构的的协议转换模式。接下来本论文提出了一种基于STBC两用户增强协作系统,该方案基于STBC和ARQ技术,并结合了基于距离信息的协议切换方案。通过判断目的节点能否正确解码两用户信息,构成不同的协作场景：当目的节点接收两用户信息都错误时,在协作用户处进行协议切换,依据节点间距离信息的不同,可以采用基于STBC-IDF协议或STBC-IAF协议的协作传输方案；当目的节点接收其中一个用户信息正确,另一个错误时,依据节点间距离信息的不同,可以采用基于IDF协议或IAF协议的协作传输方案。最后基于EO-STBC,提出了一种利用有限反馈信息的分布式多中继空时编码方案。该方案编码方式灵活,对参与中继的个数要求无固定限制,各个中继有固定编码规则,节点间无需通信。通过理论推导和分析,我们得到了该方案在高信噪比下的平均误比特率表达式。此外,我们依据分布式EO-STBC的特点和ARQ技术,提出了一种基于增强中继的中继选择方案,该方案充分利用ARQ反馈时隙传送闭环EO-STBC要求的反馈比特,通过结合第一时隙内源节点发送的信息以及选择后的中继集合的译码和编码情况,构成合适的分布式EO-STBC矩阵。