无线信道最显著的特点就是多径衰落,协作分集(Cooperative Diversity)作为一种特殊的空间分集技术,利用协作伙伴的天线来帮助自己传输信息,可以有效地抵抗这种衰落。由于中继能够扩大网络的覆盖范围并且降低信道损伤,广泛地应用于协作通信中。网络编码(Network Coding)最初工作在网络层,通过使中继节点获得一定的信息处理能力,网络编码能够有效地改善网络吞吐量,减小延迟并增强鲁棒性。无线信道的广播特性,使得网络编码在无线网络中的应用日益受到关注。但是无线信道的广播特性会使多个信源同时传输时引起信号之间的相互干扰。如果在物理层进行网络编码则可以有效利用电磁波的广播特性,将干扰纳入到网络编码算法中,使不同的节点进行协作传输,从而进一步提高网络的容量,我们将这种物理层的网络编码称为物理层网络编码(Physical-layer Network Coding)。物理层网络编码从提出以来,受到了研究人员的热切关注。本文以协作通信和网络编码的结合作为研究的切入点,首先研究了网络编码方案对协作通信系统性能的改善,然后重点讨论了基于中继选择的物理层网络编码方案。在基于机会中继的物理层网络编码中,我们研究了机会中继对系统性能的影响,并分析比较了基于放大转发和解码转发的系统性能。接着本文给出了一种新的基于双中继选择的物理层网络编码方案,并将其称为空时物理层网络编码(ST-PNC)。在该方案中,网络中存在多个中继,我们通过一定的准则选择“最好”的两个中继协助用户交换信息,并在中继节点处采用Alamouti空时编码。在此双向中继网络中,本文研究了系统的中断概率,并分析了功率控制对系统的影响。仿真结果表明本文给出的策略能够有效的改善网络编码系统的性能,而且潜在中继越多,获得的中断性能越好。最后本文还分析了物理层网络编码的研究现状和发展趋势,从中可以看出物理层网络编码有着广阔的发展前景,也有很多方向等待着进一步研究。