非正交多址接入(NOMA)是为了满足5G通信系统中存在海量连接而提出的新型多址技术。稀疏码多址接入(SCMA)是非正交多址接入技术方案之一,具有独特的技术优势。然而,SCMA要正式成为5G选用的空口技术,高效的多用户检测是亟待解决的关键问题之一。针对SCMA系统中多用户检测算法的复杂度过高问题,提出一种基于迭代剔除的SCMA多用户检测算法(RM-MPA)。该算法首先基于串行消息传播机制提出了一种简单直观的方法用于比较用户间的译码优势,并依据译码优势对用户进行排序,然后在每次迭代后,对译码优势高的用户直接进行译码并剔除,不再参与后续的迭代过程,从而使得后续每次迭代的复杂度依次降低。在此基础上提出了译码优势用户排序剔除和正交用户分组剔除两种剔除策略,最后仿真结果表明:基于正交用户分组剔除策略的RM-MPA算法在降低多用户检测复杂度的前提下,能够保证多用户检测的性能。非正交多址接入与大规模MIMO技术相结合能够进一步提高系统的频谱效率,但也使得系统的多用户检测变得极其复杂。本文针对大规模MIMO-SCMA上行链路系统,提出了两级多用户检测方案:线性预滤波和基于RM-MPA的SCMA译码。线性预滤波阶段引入了Richardson算法降低线性预滤波阶段中矩阵求逆的复杂度,并提出了一种简单求解Richardson算法次优松驰因子的方法。基于RM-MPA的SCMA译码阶段在每次迭代后都有用户被直接译码并剔除,随着迭代次数的增加,每次迭代的复杂度依次降低。仿真结果表明:该多用户检测方案在降低大规模MIMO-SCMA系统多用户检测复杂度的同时有效保证检测性能。