在传统的移动通信系统中,中问节点只负责将接收到的数据信息进行存储和转发。而通过应用网络编码技术,中间节点对接收到的数据信息进行编码操作可以达到多播网络的容量。无线通信信道具有天然的广播属性,并且无线链路状况多变,将网络编码运用到无线网络中,不仅可以提升系统吞吐量、数据信息的传输效率,还能够改善链路的传输性能并保证数据信息的安全性等。本文主要研究基于网络编码的数据传输技术,探讨了网络编码在无线数据广播多播系统和支持终端直通(Device-to-Device, D2D)技术的蜂窝通信系统中的应用,并提出了有效的数据传输方案。理论分析与实验仿真验证了所提方案具有一定的性能优势和可行性。首先,本文介绍了网络编码的基本理论。基于下一代通信中无线数据广播多播技术的重要性,文中总结了网络编码在无线数据广播多播系统中的基本模型,引出分组数据网络中的指数网络编码问题。机会式异或网络编码和随机线性网络编码是后文主要会运用到的网络编码方法。接着,本文研究了无线数据广播系统中的重传问题。当基站将相同的一组数据广播给多个用户时,由于每个用户的信道条件各不相同,容易造成部分用户不能成功接收所有数据信息,此时需要基站根据反馈信息进行重传。使用传统的重传方法的效率较低,故引入网络编码技术。本文通过分析所要解决的重传问题的实质,将其转化为图论中的染色问题,继而提出了一种基于染色问题的网络编码方案,即NCICVC算法(Network Coding algorithm based on Index Coding and Vertex Coloring)。相比较于经典的遗传算法、传统的重传方案,所提算法能达到较高的传输效率,并且实现复杂度不高,并具有一定的启发性。然后,本文对蜂窝移动网络架构下基于位置邻近发现的D2D技术进行了介绍。当D2D小组向基站请求相同的业务时,基站通过广播或多播来完成数据的传输。然而,系统中也存在部分D2D用户不能成功接收所有数据的情况。为减轻基站负载,并更有效地利用频谱资源,本文考虑让成功接收所有数据的D2D用户通过D2D链路向其他D2D用户进行重传。文中提出了一种基于机会式异或网络编码的D2D组内协作通信方案来进行D2D组内的重传。通过一定的准则来选择D2D发送端(D2DTX),使其通过D2D小组成员的反馈信息,有效地对数据包进行,再进行传输。对编码方案和控制反馈信息的传输效率的分析和仿真,证明了所提方案提高了系统的吞吐量并使系统的性能得到改善。最后,本文还简单介绍了一种基于随机线性网络编码的D2D组内协作通信方案。应用随机线性网络编码来减少信令开销,并通过优化D2DTX的选择准则,来进一步提高系统性能。