随着大屏幕多功能智能终端流行,宽带多媒体业务不断激增,这对现已稀缺的无线频谱资源带来了前所未有的挑战。如何高效地使用有限的频谱资源成为下一代无线通信网络必须解决的关键问题。目前蜂窝通信中MBMS (Multimedia Broadcast Multicast Technology,多媒体广播多播)技术可以大大提高频谱利用率。Device-to-Device (D2D,终端直通)多播技术是将传统多播技术与传统D2D技术相结合产生的一种新的通信技术,主要用于解决用户本地数据共享需求以及作为移动中继解决小区边缘用户的漏传与误传问题。D2D通信与MBMS技术相结合,通过多播组中信道条件好的用户协作给信道条件差的用户发送数据,在增强和补充网络业务提供能力的同时,可以缓解带宽压力、减轻基站负载。本文主要工作如下：第一,本文介绍了蜂窝与D2D混合网络的研究背景意义、网络架构、D2D多播通信的应用场景、D2D多播通信的关键技术等问题。同时分析了D2D多播通信与蜂窝网络的共存方式、无线资源共享方式,并提出一种利用LTE-advanced特性的载波资源复用方法,能够有效避免蜂窝与D2D通信间的干扰。第二,设计了一种应用场景,将从基站获取了数据并缓存在终端里的用户作为D2D发送端,向其它用户共享数据文件。建立了D2D多播组与蜂窝网络正交使用资源时的多播组分簇模型,采用博弈论分析该模型,并提出了一种实际的分簇算法。该算法可以大大的减轻基站负担,提高频谱利用率,减少用户时延,提高用户体验。第三,研究了D2D多播组复用蜂窝用户上行资源的情况,提出了一种无线资源与功率分配算法,该算法可以在保证蜂窝用户QoS的同时,保证D2D多播组问公平性。为了减少计算的复杂性,这里的资源分配算法包含子载波分配算法和功率分配算法两个步骤,其中功率分配算法可以采用凸优化的方式。该算法不仅比传统的多播方式得到更高的吞吐率,并且可以在不同的D2D多播组中维持更高的公平性。