社会和经济发展的需要以及技术的进步正迫使通信技术每十年进行一次变革,即产生一个新的标准。我们现在正处于推出第五代（5G）通信技术的研究阶段。5G技术的商业部署在世界各地也在加速,工业界和学术界的目光已经超越了 5G,并将6G概念化。本论文的工作是在5G技术全面发展的时候开始的,希望能够为当前以及下一代的无线通信做出微薄的贡献。这些技术有望提供三种应用场景,如增强移动宽带（eMBB）、超可靠低延迟通信（URLLC）和大规模机器类型通信（mMTC）。更具体地说,eMBB的目标是在扩展的覆盖范围内提供高数据率,而URLLC限制了对关键性任务应用（如远程医疗设备、自动驾驶或感知网络）的延迟和可靠性的要求。mMTC的作用是在一个小区域内支持大量的无线设备,这些设备可能只是零星地发送数据,比如物联网（IoT）应用。本论文提出的非正交多址（NOMA）技术作为多址技术家族的最新成员,被认为是实现高频谱效率和大规模连通性的重要技术之一。最近,NOMA被提议用于3GPP长期演进（LTE）标准,并预期成为马上到来的5G和未来6G系统的重要技术。NOMA技术的基本特征是允许网络中的多台设备使用相同的频率资源,而只增加了接收端的复杂性。本文从NOMA的基本原理出发,结合物联网网络、异构网络（HetNets）、后向散射通信、提高能效、提高频谱效率、解决安全问题等方面,对这一新兴技术进行了系统的论述。本文的主要研究成果如下:1、首先,本论文研究了多小区NOMA网络的下行和上行传输,其中基站位于每个小区的中心,根据功率域NOMA原理为多个随机分布的用户服务。其目标是在满足最小传输速率和最大传输功率约束的条件下,最大限度地提高NOMA下行和上行传输的总容量。下行链路和上行链路的有效功率分配问题都是非凸的,这是一个非常复杂且难以解决的问题。为了得到一个合适的解决方案,利用了一种基于Karush-Kuhn-Tucker（KKT）条件的次优功率分配方案,其中次梯度法用来更新拉格朗日乘子。为了比较,我们也给出了非最优NOMA方案和传统正交多址（OMA）方案下的网络性能。蒙特卡罗仿真结果表明,所提出的NOMA方案收敛速度快,在总容量方面明显优于非最优的NOMA方案和传统的OMA方案。2、第二,本论文提出了一种支持NOMA的异构网络实现高效用户关联和最优功率控制的资源分配方案。目标是最大限度地提高所提出的异构网络的能量效率,同时保证信号能够成功解码和每个用户的最低速率。将用户关联问题和功率控制问题联合化为非凸优化问题。所提出的优化问题是在用户关联和功率控制之间进行耦合的,具有较高的复杂度,因此很难得到联合解。为了得到一个有效的解决方案并降低复杂度,将原问题解耦为两个子问题,以实现有效的用户关联和最优功率控制。对于任意给定的基站的功率分配,我们首先采用对偶理论进行用户关联,然后采用一个新的序列二次规划（SQP）方法来计算最优功率控制。在此基础上,提出了基于KKT条件的基准次优功率控制方法。蒙特卡罗仿真结果表明,与基准的NOMA和正交多址OMA方案相比,所提出的异构网络的NOMA资源优化方案可以显著提高系统性能。3、第三,本文针对下行多用户NOMA系统,提出了一种基于多目标优化的联合功率分配问题。目标是在保证最小用户速率的同时,最大化频谱和能量效率,确保在接收端连续的干扰消除（SIC）解码过程,并限制用户在基站端的发射功率。将联合谱效优化和能效优化问题转化为凸问题。为了得到最优解,我们采用基于KKT条件的对偶理论,其中拉格朗日乘子是用次梯度法计算的。随后,本文还研究了一个低复杂度的单目标优化问题,并将其作为一个基准功率分配方案。我们提供了基于蒙特卡罗仿真的结果,并将所提出的联合功率分配方案与基准的NOMA功率分配方案以及传统的OMA功率分配方案进行了比较。结果表明,所提出的NOMA方案比基准方案具有更高的频谱效率和能量效率。4、第四,本文提出了一种利用功率域NOMA实现物联网网络能量和频谱效率最大化的资源优化框架。该框架考虑了物联网网络中有限的频谱资源,提供了一种最优的资源分配方法。考虑了不同的实际约束,如SIC复杂性、确保不同物联网设备在相同频率块上接收功率的最小差距,以保证成功的SIC操作、服务质量要求以及物联网设备的传输功率。在此基础上,提出了资源管理的非凸优化问题。对于能量效率问题,我们采用新的SQP方法来获得最优解。对于频谱效率优化,其目标是耦合的频率和功率分配。为了有效地解决这一问题,将资源优化问题解耦为频谱分配和功率分配两个子问题。设计了一种用于频谱分配的次优算法,并采用SQP方法求解非凸功率控制子问题。为了公平比较,还提出了一种基于KKT条件的低复杂度次优NOMA功率分配方案。结果表明,在物联网网络的总能量和频谱效率方面,所提出的最优资源管理方案明显优于次优方案。5、第五,本论文提出了一种多小区后向散射网络,其中每个小区中的基站使用功率域NOMA技术与蜂窝用户通信。每个单元中的后向散射节点也接收来自基站的叠加信号,利用该信号调制数据,然后在多个窃听者在场的情况下将其重新发送到附近的蜂窝用户。由于无线网络的广播特性,附近的窃听者可能会试图偷听反向散射节点的传输。因此,我们首先研究一个优化问题来最大化单小区场景下支持NOMA的后向散射网络的保密率。然后我们提出了一个多小区后向散射方案,在多个窃听者存在的情况下,通过有效的反射系数使每个小区的保密率最大化。这两种情况下的优化问题都为凸问题,并且此问题受到后向散射节点的最大反射系数的约束。为了得到最优解,我们使用了对偶分解法,并在KKT条件下利用次梯度法更新拉格朗日乘子。为了便于比较,我们还提出了传统时分多址（TDMA）下的保密最大化问题。最后,利用蒙特卡罗仿真的结果表明,所提出的NOMA方案明显优于传统的TDMA方案。