网络编码由于可以显著的提高无线网络的性能而受到了广泛关注。然而无线传输的不可靠性对在无线网络中采用网络编码技术带来诸多不利的影响。现阶段已有多种成熟的无线传输技术可以提高无线信道的可靠性和有效性,因此有必要将网络编码技术和这些的无线传输技术联合起来研究,进一步提高无线网络的可靠性和有效性。本文针对无线系统中存在一个发射机和多个接收机的情况(例如双向中继的广播阶段以及多播传输的重传阶段)进行了研究,此时发射机将发送给不同接收机的码流进行网络编码后再广播出去,接收机则利用已知的先验信息从接收到的数据中恢复出其所需要的信息。本文针对一发多收的场景,研究了双向中继系统中基于网络编码的自适应调制技术和基于网络编码的天线选择算法,以及可靠多播系统中基于网络编码的高效重传算法和联合网络和信道解码算法。本文主要的创新点如下：(1)针对无线双向中继系统,提出了一种基于网络编码的自适应调制方案,改善了系统的频谱效率。双向中继的广播阶段存在一个发射机(中继节点)和两个接收机(用户节点),采用网络编码限制了中继节点只能按照同一速率并根据信道条件较差的用户节点来选择调制方式。在此基础上本文提出了一种改进的基于网络编码的自适应调制方案,中继节点根据两个用户节点的信道条件进行联合编码和调制,接收端则采用了子集分割的方式来接收,从而达到充分利用两个接收机的信道增益的目的。(2)针对无线双向多天线中继系统,改进了现有的基于网络编码的天线选择方案,并分析了系统的中断性能。在双向中继的广播阶段,为了提高系统的中断性能,当中继节点在无法工作于网络编码模式的情况下可以切换到存储转发模式继续工作。本文给出了不同工作模式下的天线选择算法,并分析了在给出的天线选择算法下系统的中断概率和中断容量的闭合表达式,最后用仿真结果验证了这些表达式的正确性。(3)针对无线可靠多播系统,提出了一种新的基于网络编码的自动重传方案,提高了系统的重传效率。在可靠多播系统中,网络编码能够提高重传效率,关键就在于发射机在收到接收机回传的NACK信息后并不会立刻重传,而是在发送多个数据包以后才开始重传。发射机将不同接收机未能正确接收的多个数据包进行网络编码后再重传,使得一次传输就可以让多个接收机能够同时恢复它们出错的数据包。本文针对无线衰落环境提出了一个新的重传数据包的编码准则：最大化目标接收机的总信噪比,该准则利用了网络编码增益和多用户分集增益提高了系统的重传效率。由于该重传数据包编码准则是NP-complete的,所以本文又给出了一个具有次优解的低复杂度经验算法。(4)针对无线可靠多播场景,提出了一种联合网络和信道解码的方案,提高了接收机的纠错能力。在无线环境中,对需要传输的数据包通常会采用信道编码,这些信道编码往往具有线性性质,也就是说多个码字叠加在一起会得到一个新的码字。在重传阶段生成的复合数据包是多个数据包进行网络编码后得到的结果,由于异或操作属于线性运算,因此该复合数据包本身也满足信道编码的约束条件,是一个新的码字。另外,考虑到网络编码实际上是多个数据包对应比特位的异或,因此可以把异或得到的这位比特看作是一个单比特的校验位。在此基础上,本文提出了一种联合网络和信道解码的方案,它突破了原有异或方案在接收机没有足够的先验信息,或者接收机没有正确接收到重传的复合数据包的情况下无法进行解码的限制,将重传的复合包和接收机以前接收到的未成功解码的数据包结合起来构成一个单比特校验的乘积码,利用软信息迭代的方式进行解码,从而有效地提高了接收机的解码能力,改善了系统的重传效率。