协作中继是一种协作多天线技术，基于该技术可以提高无线链路的传输速率及传输可靠性，并且可以增加系统的覆盖范围和系统的鲁棒性。协作中继技术充分利用无线媒质的广播特性，在不增加系统复杂度的情况下不仅降低了终端的功耗、带宽、还可以明显提高系统的频谱效率、吞吐率、以及容量。协作通信技术在无线传感器网络(WSN)、无线Ad Hoc网、无线Mesh网、以及蜂窝网等系统中有着广泛的应用前景，并将成为下一代无线通信系统融合多种异构网络的关键技术。为此，论文开展了对协作中继通信关键技术的研究。中断率和误符号率(SER)是无线通信系统最为常用的两种性能度量。对于放大转发(AF)和解码转发(DF)的中断率和SER分析，传统方法只是基于高信噪比(SNR)下的近似估计，而不能给出任意SNR下的准确表达式。因此，第二章研究了DF分集协议在Rayleigh衰弱信道条件下的中断率和SER性能。文中首先通过研究两个独立指数分布随机变量的线性函数的分布得到了DF分集协议的中断率闭式解，接着利用矩母函数方法给出了MPSK调制下的系统SER的闭式解。仿真结果显示，在任意信噪比下所给出的中断率闭式解与仿真结果完全吻合。所给出的中断率和SER的闭式解对于进一步研究DF分集协议相关的关键技术有着非常重要的理论价值。利用所有信道的反馈信息，在解码转发(DF)和直接发射(DT)中选择可达数据率较大者作为当前发射模式可以实现系统中断率最小。为了减少系统的反馈开销和计算复杂度，第三章研究了在信道增益平面内最佳发射模式区域划分，目的节点只需查看当前信道状态所属区域即可知当前最佳发射模式。接着，通过反馈功率分配参数，可进一步降低系统中断率。基于以上结论，目的节点只需反馈一个发射参数到源节点和中继节点即可实现最小中断率协作策略。Hunter等首先将信道编码引入到协作通信中，并提出了基于码率兼容删除卷积码(RCPC)的用户编码协作(CC)策略。基于编码协作，用户码字的不同部分经历不同用户信道到达基站。该模型认为经过不同信道的成对错误概率(PEP)仅与对应信道传输的符号长度成比例，然而该假设在很多应用场景下是不合理的。当基站能正确解码直接发射帧时，协作帧内为该用户转发数据将是多余的。因此，第四章对编码协作策略进行深入研究，提出了一种基于有限反馈的编码协作策略。基站对直接发射帧解码并反馈解码结果到用户，用户则根据反馈信息调整协作帧内数据的发射。相比于CC策略，在多种不同场景下的仿真结果显示所提出的协作策略不仅提高了用户的性能而且节省了大量的功率和带宽，并提高了用户的吞吐率和频谱效率。在无线协作系统中，协作节点需要根据协作策略灵活调整数据包的发射与接收，这对协作节点实现算法的扩展性和兼容性提出了更高的要求。基于模块化设计思想，第六章首先设计出一种按比特映射方式调整协作节点发送数据包的透明发送机制，接着利用各通道轮询方法设计出一种接收多个协作节点数据包的多通道联合自适应数据接收机制。基于提出的数据收发机制，修改几个变量可实现协作节点对任何收发协议的支持。本章所提出的数据收发机制不仅适用于无线协作通信系统，而且还适于任何有类似需求的系统。基于高速串行收发器技术，该算法已应用于B3G TDD系统。通过全文的研究，我们发现，在无线协作通信系统中，针对特定的传输策略下选取合适的协作策略以及数据处理算法，就能够有效利用不同用户节点的天线以获取协作分集，从而显著改善系统性能或降低系统代价。