近年来,全球移动数据业务量呈爆炸式增长,并且移动通信网络承载的主要业务类型也逐渐由传统的“互联互通”业务向“内容分发”业务转变。物理层多播是一种高效的点到多点的内容分发技术,正受到学术界和工业界的广泛关注。基于多天线的波束赋形技术可以利用发送端已知的信道状态信息,为每个待传信号设计相应的波束赋形向量,有效地提高接收端信号的信干噪比,从而提升物理层多播传输的频谱效率和能量效率。然而,现有的面向多播的波束赋形技术在总体上还远不如传统面向单播的波束赋形技术成熟。具体来说,多播波束赋形设计问题通常是NP困难问题,已有的启发式算法计算复杂度普遍较高,可扩展性差;现有的3GPP多播标准(e MBMS)采用单频网技术传输多播业务,需要专用的时频资源块,使得系统总体频谱效率低,灵活性差。此外,作为一种物理层共性技术,多播传输目前仅限于传统蜂窝网络下的多媒体广播多播业务,其在未来新型无线网络架构,如无线缓存网络、无线自回传网络下的巨大潜能尚未充分挖掘。本文旨在研究物理层多播波束赋形技术的高效算法设计,并探索其在新型无线网络架构下的应用拓展。主要研究成果如下:1.针对现有多播波束赋形算法复杂度高、可扩展性差的问题,提出了一种基于凸凹过程和交替方向乘子法的高性能低复杂度算法。该算法充分挖掘了优化问题的结构特性,通过引入较少的辅助变量,每次迭代可以将大规模优化问题分解成多个能够并行求解的小规模子问题,并且推导了每个小规模子问题的闭式解。仿真结果表明,与现有算法相比,所提的快速算法在保证近似最优性能的同时,能够将仿真运行时间降低1-2个数量级,极大地降低了计算复杂度,特别适用于大规模系统。2.针对传统多播业务传输依赖专用时频资源块导致频谱效率低、灵活性差的问题,提出了一种多小区协作网络下基于层分复用的非正交多播和单播混合传输方案。基于该方案,研究了联合基站分簇和多播/单播波束赋形设计,在给定基站峰值功率和回传容量约束下,最大化系统的多播和单播加权和速率。分别提出了全局最优算法和基于稀疏波束赋形的低复杂度算法来求解该问题。仿真结果表明所提的非正交传输方案极大地拓宽了多播-单播速率域,显著优于正交传输方案。3.在具备缓存功能的云无线接入网络架构下,提出了一种基于多播的内容中心传输机制,该传输机制充分挖掘了多播和缓存的潜力,有效地避免了内容在网络中的冗余传输,极大地降低了网络开销。研究了给定基站缓存策略下的联合内容中心基站分簇与多播波束赋形设计,在满足用户服务质量的前提下最小化网络的传输功率和回传开销,并提出了有效的算法获得高质量的近似解。进一步,提出了三种启发式的缓存策略,并通过数值仿真比较了不同缓存策略对系统性能的影响,为更高级的缓存策略设计提供了指导。仿真结果验证了所提的内容中心传输机制的优势。4.在全双工无线自回传网络中,提出了一种基于多播的用户中心联合接入与回传设计方案,有效地缓解了回传压力,提升了系统的吞吐量性能。该方案在接入链路中采用以用户为中心的小基站协作来抑制干扰,利用多播传输来降低回传链路开销。首先考虑全局信道信息已知场景下接入-回传波束赋形以及小基站分簇的联合设计来最大化系统的吞吐量,并提出了有效的算法求解相应的优化问题。然后将上述研究成果拓展到部分信道信息已知场景的接入-回传随机波束赋形设计。仿真结果分别验证了两种场景下所提算法的有效性。仿真结果还表明在部分信道信息已知场景下,所提方案能够以损失微小的吞吐量性能为代价,显著降低系统的信道估计开销。