非正交多址接入(Non-Orthogonal Multiple Access,NOMA)作为5G关键技术之一,通过运用叠加编码与串行干扰消除技术,使多个功率不同的用户在同一时频资源块上实现复用,从而大大提高了系统容量。资源分配是影响NOMA系统性能的关键因素,面对5G复杂且严苛的网络环境要求,本文综合考虑了系统和速率、系统公平性指数、用户服务质量、能量效率、频谱效率多个性能指标,对NOMA系统中的资源分配方案进行了研究。本文的主要工作如下:一、从保证用户服务质量角度出发,以协作NOMA系统为基本模型,以最大化系统最小有效容量为优化目标,提出了一种用罚函数法与改进的模拟退火算法相结合的跨层功率分配算法。先使用罚函数法将原始最大-最小有效容量的有约束优化问题转化为无约束优化问题,再使用改进的模拟退火算法求得最优的功率分配方案。在半/全双工协作NOMA系统中对两用户以及多用户的场景进行了仿真,仿真结果表明,所提算法相比于传统功率分配算法可以进一步提高NOMA系统的有效容量,能够以更快的收敛速度得到全搜索算法的最优解,是一种折中算法复杂度与提高有效容量的跨层功率分配算法。二、针对复杂的5G网络环境,研究了多输入单输出NOMA下行链路中的多目标联合优化问题,提出了一种综合考虑能量效率与频谱效率的SE-EE联合优化方案,以及一种综合考虑系统和速率与公平性指数的SR-FI联合优化方案。首先使用加权和函数作为效用函数,将所提方案中的多目标优化问题转化为单目标优化问题;然后使用序列凸逼近算法将原始非凸优化问题转化为凸优化问题,通过迭代法求得帕累托最优解。仿真结果表明,所提的两种联合优化方案可以提高基站资源分配的灵活性,使基站能够结合实际应用场景,灵活调整权重因子,满足不同场景的性能需求。