5G商用系统已覆盖我国多个城市热点地区,为用户提供更高质量的移动通信服务。如何更高效地利用有限频谱资源,以及如何根据场景需求合理地调配资源,是新一代移动通信的技术研究中需要解决的核心问题。非正交多址（NOMA）技术作为5G的一项关键技术,在理论上相比于传统的正交多址（OMA）技术能够取得更高的用户接入量与传输可靠性。本论文针对新的通信场景,以高效地利用有限频谱资源,支持海量连接,以及实现低时延高可靠通信为目标,研究了面向5G/B5G移动通信的NOMA技术,并分别在URLLC场景中NOMA技术的应用,以及大规模MIMO系统中NOMA的资源优化这两方面取得进展。非正交编码接入（NOCA）技术是5G的候选多址方案之一。NOCA在发射端采用基于低互相关性QPSK序列码本对用户传输符号进行扩频,并在接收端采用并行干扰消除机制来区分多用户并降低用户间干扰,从而实现多用户在相同时频资源上的复用。本论文提出在具有主动重传的突发传输短数据包的上行URLLC场景中采用NOCA方案,并联合主动重传的调度策略来降低传输时延和增强可靠性。通过系统级仿真,评估了不同扩频长度的NOCA方案在URLLC场景中结合被动重传和主动重传模式的时延与可靠性。仿真结果表明,主动重传方案能够在1ms时延内获得更多的传输机会,而结合NOCA方案可以进一步地消除用户间干扰,实现1ms时延内误块率达到10^-5量级。在此基础上,本论文提出了一种在不同用户密度场景下的扩频长度自适应策略。大规模天线MIMO作为5G/B5G中物理层的一项关键技术,在基站发射端配置多根天线扩展了信道的空间维度。大规模MIMO与NOMA的结合能够带来多重优势:小区内多用户在同一时频资源上复用传输,提升频谱效率;利用多天线带来的分集增益,提升能量效率。本论文研究了通用多小区下行多输入-单输出非正交多址接入（MISO-NOMA）系统在保证小区内每个用户达到一定数据率约束的条件下的功耗最小化问题。针对用户分簇,波束赋形（BF）和功率控制三个子问题分别设计分布式联合迭代算法。文中提出采用半正交用户选择（SUS）算法来选取BF用户,并采用迫零（ZF）BF策略来构造预编码矩阵。本论文提出了两种启发式用户分簇算法,分别基于信道条件和基于系统总功耗。确定用户分簇策略和BF矩阵后,理论推导了最优功率分配策略的解析解,并证明了分布式迭代算法的收敛性。仿真结果表明,提出的方案在功耗、中断率、能的量效率和连接效率等方面均优于传统MISO-OMA策略和无分簇的MISO-NOMA策略。