如何有效地将网络编码与协作通信融合，在较为实际的移动通信场景中充分发挥协作网络编码在提高网络吞吐量和频带利用率等方面的优势，是新一代无线移动通信研究的热点之一。为此，本文从考察误码率和中断概率性能指标入手，重点研究了多用户协作网络中的物理层网络编码相关问题。论文具体研究内容如下：1.针对物理层网络编码研究主要集中在编码算法研究、性能评估及应用方案等方面，本文从考察物理层网络编码的中继节点映射出发，提出一种符号映射实现物理层网络编码的方案，并比较研究了调制和功率分配对该编码方案的误符号率和中断概率等性能影响。研究结果表明，所提出的物理层网络编码方案在中断概率等性能方面优于其它典型的网络编码。2.针对现有网络编码的研究对象大多是两用户中继协作网络，本文从中断概率性能标入手，分析研究了多用户协作网络中的有限域网络编码和复数域网络编码。研究结果表明，相比其它协作传输方式，多用户协作网络中采用复数域网络编码可以进一步降低中断概率和提高链路传输可靠性。3.提出一种正交处理的网络编码算法，该算法采用正交低频信号对信息进行正交化处理，避免了中继解码时用户信息间的相互干扰，使得中继能检测多个同时发送的源端信息，并在接收端通过编码包与正交处理信号相乘的逆正交处理方式直接解码出用户信息。理论分析表明该算法可以减小传输时延，计算机仿真表明该算法也可以改善系统的误码率和中断概率性能。