随着蜂窝网技术和移动互联网的发展,高质量视频组播服务成为蜂窝网中一项重要增值业务。蜂窝网大用户量下的高质量视频传输需要网络提供极高的带宽,而蜂窝网小区的无线传输部分是组播信道带宽扩展的瓶颈。中继技术可以显著增加信道带宽,提高系统吞吐量,被广泛认为是无线通信领域实现高带宽信道的有效技术。由移动终端间相互协同转发而实现的协同中继技术以其方便部署、造价低廉等优势而受到广泛关注,但是协同中继技术也存在若干缺陷。研究如何保持协同中继技术的优势而有效克服其缺陷,对该技术的发展和实用具有积极的意义。本文主要研究由协同中继节点的移动性造成的协同中继链路不稳定对视频组播连续性的影响。在分析蜂窝网小区中的视频组播技术和协同中继技术的特点后,将视频分层技术和协同中继组播技术有效结合,提出一种视频分层协同中继组播机制。然后,针对机制中的分层协同中继链路,进行了信道容量和功率分配优化研究。理论分析和仿真结果表明,提出的机制及进行的各项研究是有效的,达到了预期目的。本文的主要工作和创新点如下：1)提出了一种视频分层协同中继组播机制。该机制既能保持协同中继链路高带宽的特性,同时克服了协同中继链路的不稳定给视频组播带来的影响。该机制将视频编码为基本层和增强层。基本层广播到整个小区,保证小区内所有组播用户的基本质量的视频服务；而增强层则沿协同中继链路传输,为中继节点覆盖范围内的用户提供高质量视频服务。当协同中继链路中断时,终端可以保持视频的连续播放,仅在视频质量上发生变化。2)研究了视频分层协同中继组播机制中的分层信道容量。在建立满足机制要求的抽象分层信道模型、无线高斯分层信道模型和无线固定衰落分层信道模型后,对上述模型下的信道容量进行了推导、分析和仿真。研究成果不仅揭示了分层信道的特性,验证了机制的有效性,同时也对后续的功率分配优化等研究,提供了理论基础。3)提出了一种满足视频分层协同中继组播机制特点的功率分配优化算法。由于中继节点的移动性,协同中继组播的路由需要快速建立和频繁刷新。其功率分配需要低复杂度的快速优化算法。利用分层信道容量研究结果,提出一种基于信道容量计算的功率分配优化算法,并分别给出在高斯信道和固定衰落信道中的实现方法。4)提出了一种跨层优化改进算法和蚁群功率分配优化改进算法。在分层信道容量研究的基础上,对于跨层优化,根据中继节点分布特征,增加预处理功能,通过确定中继节点选择带,显著减少参与跨层优化的中继终端数量,提高了算法的收敛速度；对于蚁群功率分配优化,在确定的中继选择带的基础上,再对其中的终端进行名称编码,引导人工蚂蚁沿基站向小区边缘逐个选择带行走,避免反向、横向、跳跃选择带等无效行走,显著提高了收敛速度。本文的工作,对现有蜂窝网和下一代蜂窝网,都具有一定的理论研究和实用价值,同时,对其他无线网络,也有借鉴作用。