非正交多址接入技术(Non-orthogonal Multiple Access,NOMA)可提高频谱利用率,增加接入用户数且与现有通信架构兼容,已成为5G的候选技术之一,其主要思想是不同用户同时共享同一频谱资源,通过功率域复用在接收端对用户进行区分。因此,对于NOMA系统中资源分配机制的研究具有重要意义。针对现有用户分组算法中需对用户信道相关度门限进行设置所造成分组结果受门限值影响的问题,提出利用对称矩阵的用户分组算法。该算法首先对用户信道相关度进行非线性变换,而后将用户信道相关度和增益差求和构建新的信道信息矩阵,进一步利用该矩阵对称性求出用户分组结果,从而避免由于设置相关度门限导致的用户分组随机性。仿真结果表明,所提用户分组算法相比于设置相关度门限的传统分组算法,在门限值为0.75、0.85或0.95时,系统容量分别提升了5.51%-21.80%、3.98%-15.30%、1.56%-6.69%。针对现有应用于NOMA的功率分配机制存在功率分配因子固定,复杂度过高,分配因子需要通过仿真分析求得,或功率分配增加用户干扰等问题,提出NOMA中最小功率分配机制。将满足用户目标速率下最小化传输功率的问题转化为求取用户组预编码矢量的问题,进而对所求功率进行用户组内分配,以便在满足用户服务质量以及NOMA限制的条件下最大化系统容量,并通过拉格朗日乘数法求解。仿真分析表明,所提机制降低了发射功率,提升系统容量。针对基站中用户过多,频谱资源有限导致部分NOMA用户不满意的问题,提出一种利用能量检测频谱感知技术感知相邻基站频谱并借用的机制。该机制可避免基站间频繁的信息交互,感知相邻基站频谱空洞,形成可借用频谱集合。以满足用户组效用值为目标利用矩阵对借用频谱进行分配,避免了现有算法中仅按照频谱效用值降序进行分配的局限性。仿真结果表明,所提机制能够提升系统容量,提高频谱链路效率,降低不满意用户率。