智慧城市、环境监测、智能农业、森林防火等场景中，以传感和数据采集为目标的机器间通信(Machine-to-Machine，M2M)业务急剧增长，带来海量用户连接需求。特别地，未来第五代(the Fifth Generation，5G)网络海量物联网场景要求网络具备超千亿连接的支持能力，满足100万/km2连接数密度指标要求。在此场景下，数量空前的用户将会尝试接入网络，频繁的传输碰撞将带来网络拥塞、时延增大、资源浪费等问题，合理利用有限的无线资源实现海量用户可靠接入和高效数据传输是一大挑战。本文研究非正交多址协议以解决海量用户接入与数据传输问题。主要工作与创新点概括如下：
　　(1)针对单小区海量用户接入网络造成随机接入过程碰撞加剧、时延增大等问题，将功率域非正交多址(Non-Orthogonal Multiple Access，NOMA)与长期演进(Long-Term Evolution，LTE)随机接入过程结合，设计了非正交随机接入(Non-Orthogonal Random Access，NORA)协议。首先利用用户空间分布特性，设计了基站侧基于到达时间的多用户前导序列检测方案和用户侧基于距离的随机接入响应消息接收方案，同时对随机接入响应消息格式进行改进设计，使得多个用户以功率域复用方式在相同的时频资源上传输接入请求消息，缓解前导序列碰撞带来的前导序列重传问题；基站侧利用串行干扰消除(Successive Interference Cancellation， SIC)分离多个用户的接入请求消息，实现多个用户同时接入。其次，综合前导序列传输、接入请求消息传输、随机退避等过程，建立了NORA性能分析模型，包括随机接入吞吐量(最大可支持用户数量)、平均接入成功概率、平均接入时延等。仿真结果显示，相比于LTE正交随机接入机制，NORA机制最大可支持用户数量可提升30%，成功接入用户的平均接入时延可降低50%。
　　(2)针对M2M用户激增带来的基站密集部署场景，开展了大规模网络场景下NORA机制的分析与设计。首先，基于随机几何理论，结合NORA用户到基站距离的约束关系，建立了NORA用户空间分布模型，在此基础上建立了小区间干扰模型；其次，结合非正交多址特点，提出了两种功率控制方案，分别为部分补偿路径损耗结合功率退避方案和过补偿结合功率提升方案，在此基础上建立了大规模网络NORA性能分析模型，包括随机接入吞吐量、平均接入成功概率、NORA增益等。仿真结果显示，部分补偿路径损耗可以提升NORA用户的公平性同时增大NORA吞吐量；此外，针对特定多径信道传输特征，可以通过优化设计基站密度实现NORA增益的最大化。
　　(3)针对单小区海量用户随机接入需求，研究并设计了编码域非正交随机多址协议，即编码随机接入(Coded Random Access，CRA)。用户基于预定义的接入策略随机选择多个时隙重复传输接入请求消息，形成接入图样；提出了综合跨时隙和时隙内SIC的多用户联合检测方案，在基站侧实现用户接入请求消息接收。基于AND-OR分析方法，综合考虑时隙内SIC的捕获效应，建立了消息解调成功概率迭代分析模型，在此基础上建立了CRA性能指标模型，包括随机接入吞吐量、平均接入失败概率、平均接入时延等。仿真结果显示，相比于NORA机制，CRA机制可将系统最大支持用户量提升一倍以上。进一步针对大规模网络场景建立了CRA系统性能分析模型，仿真结果表明大规模网络场景下CRA系统最大可支持用户数量相比于单小区场景降低了约50%；此外，在同样的系统负载下，为实现平均接入失败概率最小化，大规模网络场景用户接入策略对应的平均消息重复传输次数需小于单小区场景。
　　(4)针对用户非同步场景，综合功率域、编码域和时域设计多域非正交多址协议。一方面，针对NOMA用户符号异步场景，结合过采样和置信传播技术，设计了时域与功率域联合非正交多址方案，即异步NOMA(Asynchronous NOMA， ANOMA)方案，分析了ANOMA系统的总数据速率、比特错误概率等性能。仿真结果表明，ANOMA系统相比于时域正交的NOMA系统，总数据速率明显提升；此外，采用置信传播检测方案的ANOMA系统在比特错误概率方面可以取得近似单用户传输的性能。另一方面，针对CRA用户时隙异步场景，结合时间分集合并技术，设计了时域与编码域联合非正交多址方案，即异步CRA(Asynchronous CRA，ACRA)方案，分析了ACRA系统的吞吐量、平均接入失败概率等性能。仿真结果表明，采用最大比合并的ACRA系统最大可支持用户数量相比于时隙同步CRA系统提升了一倍以上，同时可以将平均接入失败概率降低至少一个数量级。