达成无线通信系统的有效性和可靠性传输一直是移动通信业界孜孜以求的目标。在无线通信传输中,由于环境的复杂性,通信覆盖范围往往受到很大的约束限制。中继站作为一种有效的解决方案得到越来越广泛的重视。中继作为一种简单的传输节点,起到桥接源节点和目的节点的作用,从而达到克服部分信道衰落、扩展基站覆盖范围、提高小区边缘吞吐量、增强群移动服务等目的。在未来移动通信系统高吞吐量、高数据速率、高频谱效率的潜在要求下,协同策略作为平衡系统开销和系统性能的一种高效手段,得到了广泛关注和深入的研究。协同技术在干扰消除、多点调度、联合处理等方面的应用在相关协议标准如LTE/LTE-A中也得到了体现。本论文正是基于协同中继系统,对先进的收发技术展开联合研究。首先介绍了本论文的研究背景——当前中继系统和协同技术的现存技术和发展,以及当前系统中基于通信有效性和可靠性原则,可供改进的创新点。然后分别从理论研究和实际应用价值两方面展开具体研究。本论文基于中继协同系统的主要研究和创新内容包括如下三个部分：通信协议设计、可靠／有效性均衡利用、工程实施价值提升,来分别进行阐述。在理论研究方面,首先针对中继协同系统中的源节点和中继节点在时分模式下的发送时隙分配,本论文通过对其发送过程的分析,重点研究了提高传输效率的策略,并构建了相应的通信协议,保证在接收端即使无干扰消除的操作,依然可以提升系统的性能指标。其具体思想是：传统的三节点中继系统中,在第二个时隙中继节点进行转发传输时,源节点往往是闲置不用的,这在一定程度上降低了资源利用率。本论文设计的通信协议充分利用了第二个传输时隙的源节点闲置资源,使其同时传输数据,并且严格证明了即使在无干扰消除的情况下,无论使用哪种转发方式此中继协同系统同样可以达到二阶分集增益并且获得容量增益。其次,根据上述基本思想,并根据该中继通信模式的演进性,在此基础上引入传输信息的可靠性和有效性研究。具体思想如下：将提出的中继协同通信方式引入到中继辅助-自动反馈重传(Relay-Assist Hybrid Automatic Repeat reQuest)协议的设计中,从而提高系统的可靠性。与此同时,在源节点第二个时隙的发送过程中采纳网络编码(Network Coding)的基本原理,将重传信息和新的数据信息结合,同时在接收端进行相应的虚拟MIMO (Multiple Input Multiple Output)的译码操作,以此进一步提高传输的有效性。最后,在实际工程实施应用方面,本论文在分析中继协同通信的过程中,针对中继站需要服务于多用户以及为适应不同信道环境而采用的多天线增强技术,如预编码技术进行了深入研究。考虑到实际系统中因为硬件开销和时延的限制,在实际应用中收发两端往往不采用实时性要求较高的基于信道反转(Channel Inversion)的预编码技术,而通常采用的基于码本的预编码技术作为一种传统的协同方式。本论文基于工程实际利用价值首先提出了基于二进制的码本设计准则,很好的平衡了系统性能和实现开销,并且可以广泛应用于现存的码本设计方法。其具体思想是：在码本的设计过程中,将码本矩阵元素进行转化,使每个元素都是二的幂次。在硬件实施上,数据流与码本的复数乘法就转化成了对于数据符号的简单移位,大大节省了所消耗的硬件资源。当然,如上操作势必带来码本能量的变化以及原始码本性质的变化,所以需要对获得的码本进行处理。本论文分别针对中继站服务单用户和多用户场景分别进行深入讨论,提出了相应的码本改进生成算法。