功率域非正交多址接入（Non-orthogonal Multiple Access,NOMA）是未来无线通信系统的候选多址接入技术之一,通过在发送侧使用叠加编码对多个用户的信号进行功率域复用以及在接收侧使用串行干扰消除方法进行信号检测和解码,NOMA可以在同一个时频资源单元上服务多个用户。相比于传统正交多址接入方法,NOMA具有显著提高系统频谱效率和支持更多用户接入的潜在优势,引起了学术界和工业界的广泛关注。然而,现有NOMA系统面临以下挑战:小区间干扰导致系统能量效率低;应急场景下地面蜂窝基站部署不充分导致边缘用户速率需求难以保障;NOMA组内用户间干扰和串行干扰消除误差传播导致用户间公平性差。同时,如何对有限的功率域、频域和时域资源进行有效分配对于获得NOMA潜在收益,提高资源调配自由度以及系统性能具有重要作用。针对上述挑战,本文围绕NOMA传输及其资源分配开展工作,主要研究内容如下:1.针对小区间干扰导致系统能量效率低的问题,研究非正交多址接入的协作多点（Coordinated Multi-Point,Co MP）传输（即NOMA-Co MP）并提出一种基于模糊逻辑的多准则用户关联方案,联合考虑距离、接收信号强度和小区间干扰等多个因素对用户关联的影响并基于模糊逻辑理论对多个准则进行权衡。提出的基于模糊逻辑的多准则用户关联方案在对抗信道衰落、阴影衰落和小区间干扰方面具有更高的鲁棒性,提高了用户关联的合理性和系统性能。同时,针对非完美信道状态信息以及串行干扰消除导致误差传播的多信道场景,提出子信道分配和最优功率分配方案。通过理论证明系统的传输总功率是关于每个子信道上NOMA组内最强非协作用户服务信道增益的单调递减函数,提出基于服务信道增益的子信道分配算法并推导最优功率分配闭式解。最后,根据模糊逻辑用户排序列表和最优功率分配表达式,提出基于模糊逻辑用户排序列表的联合资源分配算法,进一步提升系统性能和降低算法复杂度。分析和仿真结果表明提出的基于模糊逻辑的多准则用户关联方案相比于现有方法具有更好的系统传输功率和能量效率性能。2.针对应急场景下边缘用户服务需求难以保障以及现有无人机辅助NOMA方法干扰管理复杂和系统性能不高的问题,提出无人机-地面基站NOMA-Co MP传输方案,通过无人机和地面基站协作对小区边缘用户进行Co MP传输,不仅可以消除无人机-用户通信链路和地面基站-用户通信链路之间的相互干扰,而且可以利用多个基站到边缘用户的链路来联合传输有用信息,提高了基站传输自由度和干扰管理能力以及边缘用户速率。同时,提出面向无人机-地面基站NOMA-Co MP的用户调度、功率分配和无人机轨迹设计联合交替优化算法,在保障中心用户服务质量需求的同时最大化边缘用户总速率。通过理论分析功率分配和用户调度优化变量对系统传输速率的影响,揭示无人机-地面基站NOMA-Co MP系统的内在特征:1)通过理论证明系统传输总功率是关于用户速率的凸函数,将相对于功率优化变量非凸的功率分配问题转化为关于用户速率的凸优化问题,并基于单调性原理推导最优用户速率和最优功率分配闭式解。2)根据推导的功率分配表达式,对用户调度和功率分配进行联合求解,进一步提高系统性能。分析和仿真结果表明提出的无人机-地面基站NOMA-Co MP方案相比于现有的无人机辅助方法具有更高的干扰管理水平,能够实现更高的系统和边缘用户总速率。3.针对NOMA传输引入的用户间干扰、串行干扰消除误差传播以及无人机移动性导致用户间公平性低的问题,以及未来无线通信不断增长的上下行速率均衡需求,提出无人机辅助的混合正交/非正交模式多址接入（Hybrid Orthogonal/Nonorthogonal Mode Multiple Access,HMMA）方案。其中,非正交多址接入用于实现高平均速率传输而正交多址接入用来对信道条件较差或者遭受较强用户间干扰的用户的速率进行补偿,保障用户的瞬时速率需求。提出的HMMA方案在用户接入和资源分配方面具有更高的自由度,从而实现更高的用户间最小平均速率和用户公平。同时,提出联合上下行资源分配算法,对上下行带宽分配、功率分配和无人机轨迹设计进行交替优化,在满足用户异构速率需求的同时实现上下行通信速率均衡。通过理论证明上行/下行传输总功率是关于上行/下行传输速率的凸函数,使用变量替换法将非凸的功率分配问题转化为关于上行/下行用户速率的凸优化问题,并推导最优上行/下行用户传输速率和最优功率分配闭式解。最后,进一步提出一种增强型HMMA方案,提高系统在对抗串行干扰消除误差传播方面的鲁棒性,相比于HMMA能够实现更高的用户间最小平均速率。分析和仿真结果表明提出的HMMA和增强型HMMA方案及其上下行联合资源分配算法相比于传统正交或非正交多址接入方案具有更高的用户间最小平均速率和用户公平。