近些年,移动互联网和多媒体业务的广泛应用促进了移动无线通信系统的迅速发展。为了满足日益增长的通信速率和通信质量的要求,必须采用一系列新的技术手段,基于中继技术的分布式组网是其中之一,被认为是下一代网络的重要的组网方案,也是近年来学术界和工业界研究的一个热点。已经有很多文献从香农信息论等角度对各类中继协议进行了大量研究,然而这些研究较少考虑在正交频分复用(OFDM)、多进制调制和前向纠错(FEC)编码下的通信系统中的实际运用,而这些技术都是现代无线通信系统中不可或缺的关键技术。因此,本文着重考虑在这些关键技术下高效率的中继技术问题,包括具体实现方案、性能、计算量、复杂度和信令开销等的高效率优化问题,针对基于OFDM、多进制调制和FEC编码的各种中继模型下的解码转发(DF)协议,提出了一些改进的中继协议。本论文的主要贡献和创新如下：(1)针对基于OFDM、多进制调制和FEC编码的三节点协作式中继模型,研究了现有的DF和解码量化转发(DQF)协议,并提出了新的基于码字级的差错率修正的DF(BMDF)协议和基于符号级的BMDF协议。在‘码字级’的中继转发中,需要做完备的OFDM解调、软解调和FEC解码；而‘符号级’的中继,仅需要OFDM解调和星座空间上的符号硬判决。所提协议中需要传递的边信息可以是发端到中继节点的信道系数,中继产生的差错率(BER),对数似然比(LLR)的限幅值中的任意一个。所提的两种新的中继协议复杂度低,操作简单,且都比DF的性能好,当中继节点距离发送端更近一些时比DQF的性能好。符号级的BMDF比码字级的BMDF的实现复杂度更低,但性能略差。(2)针对基于OFDM、多进制调制和FEC编码的线性多跳中继模型,研究了现有的DF协议,提出了该模型下的BMDF协议和带子载波配对(SP)和载波功率分配(PA)的BMDF协议。由于多跳系统对中继节点处理的复杂度和时延性都要求较高,因此符号级的BMDF方法非常适用于该模型。在所提协议中,接收端为了获得所需的BER信息,需要它前面的每个节点将其累积的BER值传递下来,因此其传递的边信息只能是BER。当系统信令负荷受限时,还提出了一种有效减少信令传输数量的方法。新提出的协议比符号级DF的性能好很多,即使每跳只传一个BER边信息,其性能也能改善不少；并且结合了SP和PA的BMDF协议能进一步提高系统的性能。(3)针对基于OFDM、多进制调制和FEC编码的双向中继模型,研究了现有的DF、放大转发(AF)和去噪转发(DNF)协议,提出了该模型下的BMDF协议和考虑了预编码技术下的BMDNF协议。其中继节点不同于前两种单向中继模型中的处理方法,它需要对两路信号进行合并后再广播出去,这就涉及到了网络编码问题。并且在多进制调制下的两步传输双向中继模型中,需要在预编码下分析具体的网络编码方式。另外,由于中继节点的广播特性,导致其BER是两路信号联合的BER,且BMDNF协议中中继节点的BER的计算更为复杂,但它也是本文必须解决的问题。在信令传递方面,BMDF协议中的边信息一般可以是信道系数,BER和LLR限幅值中的任意一个；而二进制相位键控调制(BPSK)和带相位旋转预编码的正交相移键控(QPSK)调制下的BMDNF协议只能传递BER或是LLR的限幅值,另外带相位旋转和幅度调整预编码的四进制正交幅度调制(16QAM)下的BMDNF协议不需要传递边信息。并且,新协议对广播的边信息的差错极不敏感。在三步双向中继模型中,新提出的BMDF协议比DF的性能好；而在两步双向中继模型中,新提出的BMDNF协议比AF和DNF的性能好。且在吞吐量方面,BMDNF协议最优。