协作通信与网络编码技术作为近年来通信界的研究热点，它们对于提高通信系统的容量，通信效率等方面的性能都有着各自突出的贡献。前者是基于中继通信理论发展而来，它将传统的中继通信中的中继节点用用户节点替换，在实际应用中获得了空间分集增益，达到了虚拟MIMO的效果；而后者突破了传统的路由节点上只对信息进行存储—转发的处理模式的局限，提出在特定的路由节点上采取对信息处理后再发送的模式，以此获得更大的网络吞吐量等方面的性能提升。由于上述两种新的通信技术之间有共同之处，所以本文选取的研究重点就是网络编码与协作通信的结合，特别是物理层网络编码与协作通信的结合，提出了一种基于物理层网络编码的协作通信系统。文中针对现有的3种典型的协作通信系统模型，对其均采用了物理层网络编码协作方式，给出了各系统的性能分析，证明了采用该方案的系统，在特定环境下的系统中断概率性能及吞吐量性能的优势；此外，针对采用物理层网络编码方式的协作系统存在的缺点，文章中将用于双向中继系统中的去噪映射应用于该系统，通过采用合理的映射区域划分方式达到了压缩混合信号映射的符号数，并且降低了混合信号的叠加噪声，提高了中继转发信号的能量。Matlab系统仿真结果表明采用去噪映射信号处理方式的物理层协作通信系统其性能较以往的协作系统有了提高。