为了满足高速率多业务的通信需求,下一代的无线通信系统需要采用更好的技术来增加数据传输速率并满足各种业务的QoS需求。协作通信技术是一种虚拟MIMO技术,融合了中继传输技术和分集技术的优点,使系统的信道容量和传输性能都得到了提高。网络编码技术是通信领域的一项重要突破,网络编码的基本思想是网络中的中间节点不再只是对信号进行简单的存储转发,而是要将经过中间节点的信息进行编码然后再转发,提高了整个系统的容量、传输效率以及健壮性。协作中继技术作为一种先进的通信技术被引入到了802.16m系统中,但是中继节点只是对接收的信号进行各自的处理和转发,这对于网络资源来说无疑是一种浪费。本文以此为研究方向,在802.16m协作中继技术基础上引入网络编码技术。首先对802.16m进行了简要的介绍,包括802.16m系统中的信道编码以及Relay技术。然后阐述了网络编码的原理,并对现有的网络编码方案进行了优化,提出了一种新的网络编码方案,该方案提高了通信传输的可靠性,同时具有较低的计算复杂度。接着论文从网络编码与协作中继技术的有效结合方案入手,针对802.16m协作中继传输模型,搭建了802.16m协作中继通信仿真系统,验证了网络编码技术在802.16m协作通信系统中应用的可能性及其所能带来的增益。最后为了方便课题研究,基于MATLAB搭建了综合性的仿真平台。