由移动互联网驱动的无线数据业务指数级增长引发了对第五代(5th Generation,5G)蜂窝网络的研究。在这种背景下,研究人员提出了非正交多址接入(NonOrthogonal Multiple Access,NOMA)技术。NOMA技术通过在发送端主动引入干扰信息,在接收端通过串行干扰消除(Successive Interference Cancellation,SIC)技术实现对接收信号的正确解调。与正交多址接入(Orthogonal Multiple Access,OMA)技术相比,NOMA能够在同一时频资源块上叠加多个用户,从而使通信系统的系统容量和频谱效率得到显著的提升。随着数据需求量和用户接入数量的日益增加,NOMA系统中的有限资源更加紧张。因此,本文主要研究了如何高效地分配NOMA系统的资源,从而提高系统资源的利用率。本文的具体贡献如下:针对多天线NOMA通信场景,考虑结合波束成形技术,以用户簇的吞吐量总和作为目标函数建立数学模型,通过设计有效的用户分簇方案将用户划分至对应的用户簇中以最大化用户簇的吞吐量总和。由于机器学习中的高斯混合模型(Gaussian Mixture Model,GMM)聚类算法在一定条件下具有能够拟合任意分布样本的优势,本文提出了基于GMM的用户分簇算法,该算法能够综合考虑用户的信道增益和用户之间的信道相似度进行GMM的参数初始化,并且在算法的迭代过程中能够将用户的信道增益和物理偏离角作为特征值来确定GMM的参数。另外,在用户分簇完成后,该算法能够对簇内用户数最大和最小的用户簇进行用户的重新分配,从而在实际情况中更高效地使用SIC技术。仿真结果表明,相比较于传统的用户分簇算法,基于GMM的用户分簇算法能够显著地提高用户簇的吞吐量总和。针对NOMA应急通信场景,考虑使用无人机作为中继节点对用户提供通信服务。首先,在已确定的用户分簇方案下,以典型的单用户簇吞吐量为目标函数建立数学模型,通过优化功率分配因子等参数以最大化单用户簇的吞吐量。由于引力搜索算法(Gravitational Search Algorithm,GSA)具有在解决非线性函数方面的高效性以及在解决高维搜索空间优化问题的优势,本文提出了基于GSA的约束优化问题求解算法对建立的数学模型进行求解,该算法能够结合约束条件对目标函数值进行有效的采样计算,从而显著地降低了时间复杂度。同时,该算法能够结合约束条件对Kbest质点集合进行设计,从而增强该算法对可行域边界处的最优解搜索能力。通过在不同场景下的仿真分析,验证了所提出算法的收敛性和正确性。本文也研究了用户吞吐量门限值等因素对单用户簇最大吞吐量的影响,得出了一些有意义的结论。