随着移动通信技术和社会科技的飞速发展,促生了大量无线网络新型应用场景,例如无人驾驶、智慧农业、智慧城市、虚拟现实等。海量的无线智能终端接入移动通信网络,现有的无线资源使用日渐紧张。面对稀缺的频谱资源和有限的网络容量,非正交多址接入技术采用叠加编码与串行干扰消除技术,能够使多个用户共享同一条信道,有效提升频谱的使用效率和网络容量。因此对基于非正交多址接入技术的网络进行研究具有重要意义。本论文主要研究内容分为以下两个部分:(1)对于单小区非正交多址异构网络中的干扰问题,提出了基于非合作博弈的资源优化方法来达到缓减干扰的目的。所提资源优化方法将网络建模成非合作博弈模型,以最大化干扰定价效用函数为优化目标。该优化方法联合子信道分配与功率分配两个部分,针对子信道分配,提出了基于干扰抑制的双边匹配算法;针对功率分配,提出了一种基于梯度下降法的迭代功率分配算法。仿真结果表明,所提算法在提升网络容量的同时又兼顾了对干扰的缓减,同时非正交多址网络相比正交频分多址网络能够实现更优的网络性能。(2)对于多小区非正交多址异构网络中的能量效率问题,提出了基于斯坦克尔伯格博弈的资源优化方法,实现网络能量效率的最大化。所提资源优化方法将网络建模成斯坦克尔伯格博弈模型,以能量效率最大化作为优化目标。该优化方法中的博弈模型由两个子博弈构成,每个子博弈都同样包含子信道分配与功率分配两个部分。针对子博弈中的子信道分配,提出了以能量效率最大化为目标的双边匹配算法;针对子博弈中的功率分配,提出了基于丁克尔巴赫(Dinkelbach)算法的功率分配算法,并证明了子博弈中的功率分配能达到斯坦克尔伯格博弈均衡点。仿真结果表明,所提算法即满足了用户的服务质量需求又提升了网络能量效率,有较强实用价值。