协作通信是5G的关键技术之一,协作通信的第一个优势是作为更适用于移动设备的分布式MIMO技术,在可能取得分集增益的同时,更加适用于通信终端不断小型化的应用场景,如物联网、传感器网络。协作通信的第二个优势是通过引入中继节点,利用路径损耗的非线性特性,缩减路径损耗从而获得大量的接收功率增益。信道状态信息(CSI)可以通过信道估计获得,然而计算复杂度和开销与中继的数量成正比,并且随着信道衰落速度的加快,需要更高频率的信道估计。此外,如果估计的CSI包含误差,则会额外损耗系统的错误性能,降低系统取得的分集增益。由于不需要高开销且不精确的信道估计过程,使用差分调制的协作通信系统一直都是研究热点。使用分集合并算法合并接收的多个携带相同信息的信号,可以增加总体接收信噪比,从而提高系统服务质量、谱效率和覆盖率等指标。目前常用的合并算法,包括最大比合并算法和最大似然合并算法(ML)等,需要全部或者部分CSI,而在差分协作通信系统中,各个节点无法获取CSI,因此这些算法并不适用。鉴于这个原因,本文主要研究适用于差分协作通信系统的合并算法,算法全都不需要CSI。本文的具体研究内容和目标如下:第一,在差分解码转发(DDF)系统中,中继节点的解码错误可以通过错误传播效应传递到目的节点,降低检测器的错误性能。在选择合并算法(SC)算法中,中继链路和直连链路的决策变量具有相同的似然性,无法降低DDF系统中的错误传播效应,从而无法取得任何分集增益。为了解决这个问题,我们提出了传统DDF系统在慢衰落Rayleigh信道下的两种加权SC算法,并分析了算法性能。不同于SC算法,两种加权SC算法全部都可以获得分集增益,并且两种加权SC算法具有不同的复杂度和性能,因此分别适用于复杂度受限和性能受限应用场景。第二,能量收集技术适用于能量受限通信系统,可以延长系统寿命、降低系统开销、具有高能量效率等优点。使用差分调制的通信系统不需要任何CSI,从而略去信道估计过程,降低能量消耗,因此更适用于基于能量收集的协作通信系统。SC算法虽然性能普通,但是只需要处理一条链路的接收信号,因此可以进一步降低能量消耗。鉴于这个原因,我们提出了适用于基于能量收集的DAF系统的SC算法,可以最大程度的节约能量受限系统的能量,并分析了算法在慢衰落Rayleigh信道下的性能,并求得中继节点使用的最优功率分割因子。第三,线性合并(LC)算法需要已知链路的平均信道增益,虽然相较于SC算法增加了CSI需求,但是可以取得更好的性能。Nakagami-m是非常灵活的信道衰落模型,可以拟合包括室外移动传播环境和室内移动传播环境。另一方面,协作系统的各个节点距离很大,可能处于不同的信道环境中,因此各条链路通常拥有不同的信道特性,将这些链路建模为Nakagami-m衰落信道,可以仿真各种实际信道场景,更具有工程实践意义。鉴于这个原因,我们研究了适用于基于能量收集的DAF系统的LC算法在慢衰落Nakagami-m信道下的性能,包括误比特率、分集增益以及渐进误比特率性能。第四,随着节点移动速度加快,节点经历的信道变成快衰落信道。差分调制有效的前提是信道在两次连续使用时间内是不变的,这在快衰落信道下不成立,因此在快衰落信道下差分协作通信系统性能会经历损耗。目前并没有适用于DAF系统在快衰落信道下的有效合并算法,鉴于这个原因,我们提出了适用于DAF系统在快衰落信道下的最大似然(ML)合并算法。虽然ML合并算法是最优合并算法,但在目的节点需要全部链路的CSI,因此在ML合并算法基础上,我们又提出了适用于DAF系统的次优ML合并算法,其在目的节点只需要链路的平均信道增益。最后我们推导了DAF系统在快衰落Rayleigh信道下使用任意权的LC算法的归一化BER闭合表达式。