无线多播传输技术极大地提高了通信系统频谱效率。然而,面对5G超大规模接入量带来的多播业务需求增长与多播可用频谱资源压缩之间的矛盾,只允许在同一时频资源上服务一个多播组(Multicast Group,MG)或组中部分用户的现有基于OFDMA的多播传输技术已不能轻松应对。在本文中,能把无线资源的可利用域从时频域进一步扩展到功率域的NOMA技术被引入到多播传输中来,以研究新的基于NOMA的多播传输机制,并分析其主要性能。这为利用同一个时频资源服务两组多播用户的研究提供了理论依据,主要贡献包括如下三个方面:(1)为达到在同一时频资源上传输两MG需求信号的目的,提出基于NOMA的多播组联合传输机制,将NOMA技术中接入同一时频资源的单播用户对形成条件向多播子组对扩展。在总结归纳两MG信道增益区间关系的基础上,给出最大值最小值分组策略,以获得MG间的严格信道增益差异。而后,将有严格信道差异的、属于不同MG的子组配对。根据不同配对方法,研究服务两MG组中所有用户的三种传输模式,给出不同传输模式下,考虑频率复用效应的频谱效率分析方法。系统利用最大频谱效率传输模式进行数据下发。仿真结果表明:在与基于OFDMA的多播传输技术占用相同带宽的前提下,所提传输机制提高了 MG用户的平均服务率,提升了频谱效率。(2)针对基于NOMA的多播组联合传输机制中接收端采用串行干扰消除技术导致的信号浪费,以及仅实现组内协作的传统协作多播存在的协作受限问题,提出基于NOMA的组间协作机会多播传输机制,将组内协作向组间协作扩展。为避免已有研究将各MG需求信号当作用户间协作转发信号引起的组间隔离,基于NOMA的组间协作机会多播传输机制利用NOMA信号中叠加了两组多播需求信号的性质,先采用基于NOMA的多播组联合传输机制完成基站到两MG中固定比例好信道条件用户的NOMA信号联合机会多播,而后成功接收用户再作为用户中继将NOMA信号转发给非成功接收用户,使同一 NOMA信号需求下的两MG组间协作得以实现。通过对联合机会多播中NOMA信号成功接收条件的分析,给出了选作用户中继需达到的信干噪比阈值。此外,本文对所提机制系统覆盖率进行分析,为减小积分计算复杂度,采用扇环区域近似,给出近似表达式。仿真结果表明:基于NOMA的组间协作机会多播传输机制提高了单位能耗下的频谱效率,且系统覆盖率的分析值与仿真值吻合。(3)协作多播传输技术中,受路径损耗影响,第一阶段成功接收用户分布不均。目前研究中,非成功接收用户固定以有效中继选择范围的最大值进行用户中继选择(或无范围限制),导致高密度连接下用户中继冗余和低覆盖有效性问题。针对此问题,基于D2D设备发现机制中有效中继选择范围半径可选特性,提出区域划分用户中继选择策略。将有效中继选择范围可选半径灵活分配给与基站不同距离环形区域内的非成功接收用户,并以最大化用户中继覆盖有效性为原则,确定各环形区域的有效中继选择范围半径集。利用有效中继选择范围内的用户中继数服从泊松分布特性,在基于NOMA的组间协作机会多播传输场景下,对所提策略的用户中继选择率进行分析,并引入平均重复率,剔除被重复选择的用户中继数,给出了不同半径集下用户中继选择率表达式。仿真结果表明:区域划分用户中继选择策略的应用,减少了约12%的用户中继冗余,提高了覆盖有效性和频谱效率有效性;不同有效中继选择范围半径集下,用户中继选择率的分析值与仿真值匹配良好。最后,对全文研究工作进行总结。在此基础上,展望了无线多播传输技术的后续研究方向,明确了需进一步解决的问题。