在无线双向协同中继系统中，大部分研究都是蜂窝通信系统中基于单小区内的最简单三节点传输模式，应用3时隙的网络编码方案完成双向数据流的传输。但是，结合实际通信系统的情况，本文针对单小区内的两个双向中继信道传输场景，多组用户对通过中继进行信息交互的传输模型和多个用户通过中继和基站进行信息交互的传输模型，分别讨论分析，应用2时隙的物理层网络编码（Physical-layer Network Coding， PNC）方案，给出双向中继信道模型，并且对两种场景下产生的干扰信息应用现有MIMO技术与网络编码相结合进行抑制。首先，介绍基于物理层网络编码的双向协同中继信道，给出单组用户对通过单中继交换信息的传输模型，中继采用AF的协议模式，根据信道条件的不同，分析两个用户中断概率变化情况，仿真证明信道完全对称的条件下，两个用户中断概率曲线相互重合，且性能更优，这也为下面的研究奠定了基础。其次，将单组用户对传输场景扩展到多组用户对传输场景，利用MIMO中的空间复用技术联合物理层网络编码的方法结合多个用户及用户对间的信息，给出多组用户对通过中继进行信息交互的模型。由于传输过程中存在多组用户对间的干扰，需要在中继处设计合理的波束赋形矩阵，一种是根据模型提出的波束赋形方案，另一种是基于零空间矢量选择的方案，分别进行理论分析，公式推导，并通过仿真证明提出的两种方案相比已有方案性能更优，还能够获得更大的复用增益，重要的是这两种方案都使得干扰被有效地消除。最后，介绍了MIMO中的预编码技术，给出多用户MIMO广播信道（下行链路信道）模型，分析采用基于块对角化的预编码算法，在理想的情况下能够完全消除多个用户产生的干扰。对单小区内的第二种传输场景，给出多个用户通过中继和基站进行信息交互的传输模型，介绍已有的时隙共享联合网络编码方案，针对该方案的缺点和不足，提出预编码联合物理层网络编码方案，仅利用2个时隙便可完成多个用户与基站的信息传输，通过在基站和中继处合理的预编码矩阵设计来抑制多用户带来的干扰信息，通过仿真对这两个方案进行分析比较，结果表明提出的方案在高信噪比下性能更优，还能获得更高的分集复用增益。