近年来,随着移动通信的快速发展,新的业务模型和应用不断涌现,下一代移动通信系统(5G)将面临急剧增长的数据流量、海量的设备连接和多元化业务等巨大挑战。传统的多址接入技术已经无法满足5G的组网需求,因此新型多址接入方案成为了研究的热点。其中功率域的非正交多址接入技术(Non-Orthogonal Multiple Access,NOMA)以其优异的频谱效率、能量效率和容量性能,受到了业界学者们的广泛关注,并有望运用在5G系统中。本文即以NOMA为研究对象,从系统吞吐量和能量效率角度对其部分关键技术展开研究。针对基于OFDM的NOMA系统的资源分配问题,本文提出了优化系统吞吐量性能的用户分组和功率分配方案。考虑到优化问题的非凸性,本文将其分解成子载波上用户分组问题以及功率分配问题。首先,提出基于贪婪算法的用户分组策略,在保证叠加用户间信道增益差异的同时降低了计算复杂度。然后,基于用户分组的结果研究功率分配问题,将功率分配问题进一步分解成子载波内叠加用户的功率分配以及子载波间的功率分配两个子问题,分别提出了基于数学推导以及注水算法的优化方案。仿真结果表明,本文方案可以有效提高系统吞吐量。针对NOMA系统能量效率(Energy Efficiency,EE)和频谱效率(Spectral Efficiency,SE)的联合优化问题,本文提出了一种保证系统SE前提下最大化EE的功率分配方案。在基站最大可用发射功率以及用户最小速率需求约束条件下,制定了最大化NOMA系统EE的联合优化问题。为解决该非凸优化问题,首先建立了能够支持每个用户最小速率要求的发送功率的可行范围,然后把原问题等价的转化成一个双层优化问题。内层使用基于QoS保证的功率分配算法求解出复用用户间最优功率分配因子的闭式表达式;外层通过证明目标函数的伪凹性,结合二分法进行求解,从而得到问题的最优解。仿真结果表明,本文方案在保证SE的同时能够提升系统EE。并且与传统的OMA相比,NOMA具有优越的EE性能。