随着无线移动业务井喷式的增长,加上无线频谱资源匮乏,如何有效并可靠的服务这些业务成为当今亟待解决的难题。由于无线信道具有多径衰落、阴影、路径损耗等特性,有线网络中的可靠且高速率的通信方式并不适用于无线通信。然而,无线协作通信可以处理上述难题,其思想是通过节点协同工作以完成各自或者共同的通信任务,从而扩大通信服务范围和提供分集增益。在协同工作中,无线节点通过短距离通信共享其资源,包括信道、天线等。网络编码与协作通信相结合,不仅能提高通信网络的吞吐量,而且网络编码带来的冗余也进一步改善协作通信的可靠性。因此,近年来网络编码与协作通信的有机结合引起了学术界和产业界的广泛关注。无线网络编码通常可以分为数字网络编码与模拟网络编码。本文从单协作节点模拟网络编码、单协作节点数字网络编码以及多协作节点数字网络编码这三方面,着重研究了基于网络编码的协作传输方法和实现技术。主要研究内容与贡献如下：1)将模拟网络编码应用于单协作节点的场景,提出了一种基于模拟网络编码的单协作节点双向传输方法。该项研究所考虑的系统模型为蜂窝系统中的多用户MIMO单协作节点双向信道,即基站与多用户借助单协作节点交换信息的上下行链路,且所有通信节点配置多根天线并传输多数据流。针对该模型：Ⅰ)提出块信号对齐的思想,并基于该思想设计了一种能够消除多用户干扰的模拟网络编码协议,并给出了实现的方法。Ⅱ)从最大化端到端的有效信道增益或有效信噪比的角度,设计了3种算法来联合设计用户、协作节点与基站的预编码矩阵,优化了功率分配,从而有效地降低了用户中断概率,并能在性能与复杂度之间获得一个良好的折中。2)将数字网络编码应用于单协作节点的场景,提出一种基于网络乘积码的单协作节点传输方法。该项研究所考虑的系统模型为单协作节点的多址接入信道。针对该模型：Ⅰ)提出了对协作节点的数字网络编码与用户的信道编码进行联合设计的框架,并给出了基于多元网络乘积码的设计方法,通过理论分析证明了该方法能够保证目的节点收到的全局多元乘积码码重趋近高斯分布,明显提高了系统的误码率性能。Ⅱ)基于已有的乘积码译码算法,设计一种低复杂度的多元网络乘积码的译码算法,并通过仿真实验验证了其有效性。3)将数字网络编码应用于多协作节点的场景,提出一种基于网络卷积码的多协作节点传输方法。该项研究所考虑的系统模型为多协作节点的多址接入信道。针对该模型：Ⅰ)提出了一种基于网络卷积编码的多协作节点编码设计思路和实现方法,能改善系统的误码率性能。该网络卷积编码的设计原则是基于在目的节点构造的全局码字的生成矩阵自由距离最大化。Ⅱ)推导了该编码协作编码方法在衰落信道上的误码率性能界以及分集增益阶数,并利用仿真实验验证了理论分析结果的正确性。