在5G时期,由于移动通信的高速发展,频谱资源显得更加短缺。为适应飞速增加的移动服务要求,人们已开始寻求既能满足体验要求又能提升频谱效能的新型移动通信技术,在这个背景下,非正交多址接入（Non-Orthogonal Multiple Access,NOMA）技术引起了人们巨大的兴趣。NOMA技术主要分为两类:功率域复用和码域复用。功率域复用NOMA彻底改变了以前在功率域由单个用户独占资源的方式,明确提出了功率也可由众多用户共有的思想;对于码域复用,许多研究机构都提出了不同的实现方案,但最终目的与功率域NOMA一样,都是为了提高频谱的利用率。此外,NOMA技术在接收端中可通过干扰消除的技术,把各个用户完全区别出来。5G的重点业务为移动网络与物联网,而物联网连接的一般情景包括了大量机器类型的网络连接设备,在典型应用中,在给定时间内,仅有一小部分的（未知）设备处在活动状态,体现出一定的稀疏性。由于5G系统需要满足低延迟的特点,传统的基于授权的随机接入方案已经不再适用,一个有前途的解决方案是基于先进的压缩感知（Compressed Sensing,CS）技术的无授权随机接入方案。压缩感知是收集、处理和恢复稀疏信息的一种具有吸引力的技术。本文主要是基于CS模型,在上行免调度NOMA系统中进行信道估计（Channel Estimation,CE）与活跃用户检测（Active User Detection,AUD）,主要的研究工作和内容如下:1)根据CS原理,提出了一个经过改良的近似消息传递（Approximate Message Passing,AMP）算法——阈值自适应-加约束重加权-近似消息传递（Threshold Adaptive Constrained Reweighting Approximate Message Passing,TA-CR-AMP）算法来处理在NOMA系统中的多用户信息传送情景下的上行CE与AUD的问题。仿真结果表明,与其它算法对比,该算法可以获得更低的信道估计均方误差（Mean Square Error,MSE）、更高的成功活跃检测率（Successful Activity Detection Rate,SADR）和更快速的收敛。2)针对多重测量向量（Multiple-measurement Vector,MMV）的问题,本文根据分布式压缩感知机理,并运用重建向量的结构性稀疏特征,给出了一种新颖的压缩感知重建算法——多重测量向量-阈值自适应-加约束重加权-近似消息传递（Multiple-measurement Vector Threshold Adaptive Constrained Reweighted Approximate Message Passing,MMV-TA-CR-AMP）算法来解决SIMO-NOMA系统中的多用户传输场景的联合CE与AUD问题。通过仿真可以证明,该算法相比于其它算法可以获得更好的MSE、SADR和收敛性能。3)本文通过最小化恢复矩阵列的互相关值,对压缩感知中的恢复矩阵进行优化,探究了恢复矩阵优化对本文新提出的两种算法的影响,以此来加深对新提出的算法的改进原理的理解。仿真结果表明,恢复矩阵优化会使增加了阈值自适应的TA-CR-AMP和MMV-TA-CR-AMP算法性能下降,主要原因在于恢复矩阵优化后会使阈值自适应操作中阈值上升过快,从而降低算法性能。而针对去除阈值自适应后的两种新算法CR-AMP和MMV-CR-AMP,恢复矩阵的优化在稍微提升性能的同时显著减少了算法运行时间,且性能和复杂度均优于未使用优化恢复矩阵情况下的TA-CR-AMP与MMV-TA-CR-AMP算法。