协作通信技术利用无线网络中不同节点信道的独立性以及无线信道的广播特性，通过通信节点共享资源、协作转发数据来获得分集增益，能够有效提高无线通信系统的可靠性。网络编码技术对来自不同源节点的数据或者同一个源节点的不同数据进行统一的编解码处理，能够有效改善网络的鲁棒性、吞吐量等性能。如何将网络编码的思想融入到协作通信技术中，从而提高协作通信系统的整体性能是当前的一个研究热点，也是本文的主要研究内容。针对多用户协作通信网络，本文提出了一种基于高阶域网络编码的协作通信策略，以进一步提高协作传输的可靠性。一方面，节点转发的数据包是第一个传输阶段自身发送的数据和监听接收到的来自于其它节点的数据通过网络编码后的产物，丰富了单个数据包所包含的信息，降低了单个数据包接收失败对系统整体性能带来的影响。另一方面，该策略采用高阶域上的网络编码，丰富了编码系数的选择范围，并给出了编码矩阵的构造准则以及搜寻算法，相比于传统的采用模二加形式网络编码的协作通信策略，能够有效提高接收端所构造的解码方程组的可解性，从而使系统获得更高的分集增益。针对高频通信网络中不存在源节点与目的节点之间直达径的场景，本文对结合网络编码的协作通信策略进行了研究，以期在获得满分集增益的同时提高协作传输的效率。首先，在这种场景中引入了结合物理层网络编码的协作通信策略，该策略利用无线信道的广播特性，通过多个通信节点同时发送数据来进行天然的物理层网络编码，从而使得中继节点得以同时服务于多个源节点。理论分析和计算机仿真表明，该策略在获得满分集增益的同时，可以一定程度上提高协作传输的效率。随后，考虑到结合物理层网络编码的协作通信策略虽然传输效率有所改善，但还不能实现完全的全速率传输，本文从多中继轮番协作转发的角度出发，提出了一种全速率放大转发策略并对其进行了性能分析。该策略利用多个协作中继节点轮番监听、转发数据，从而保证了源节点数据的持续不间断发送。同时，结合网络编码对数据进行交叉融合的思想，在源节点预先对将要发送的数据进行编码混合，提高了系统对抗传输衰落的能力，并避免了可能出现的奇偶时隙数据差错率的不平衡。该策略在获得满分集增益的同时，实现了全速率协作传输。