大规模多输入多输出（Multiple-Input Multiple-Output,MIMO）技术具有信息传输速率快、抗干扰性强和频带利用率高等优点,是5G通信系统的核心技术之一,但在实际应用中也面临一些困难和挑战,信号检测便是其中之一。随着天线规模增大,传统MIMO信号检测算法难以在计算复杂度和检测性能之间取得较好的平衡。本文对基站接收天线采用高精度模数转换器（Analog-Digital-Converter,ADC）和一比特模数转换器的两种系统模型展开研究,分别设计了相关算法以在计算复杂度和检测性能之间取得较好的平衡。论文的创新性工作如下:1.针对高精度量化大规模MIMO系统中Neumann级数检测性能较差的问题,本文提出了 OFNS-L-SIC算法,该算法在优化的基于Frobenius 矩阵展开的 Neumann 级数（Optimized Frobenius Neumann Series,OFNS）的基础上,结合了低复杂度的串行干扰消除算法（Low complexity Serial Interference Cancellation,L-SIC）,从接收信号中消除已检测用户信号对未检测用户信号的干扰。OFNS-L-SIC算法在具备Nt根发送天线的大规模MIMO系统中的计算复杂度为0（Nt2）,相比于OFNS算法,提高了误码率性能。2.针对一比特量化大规模MIMO系统中二级检测算法计算复杂度过高的问题,本文通过对邻域搜索（Neighborhood Search,NS）算法进行优化和改进,提出了二级检测ZF-NS算法。二级ZF-NS算法提高了第一级迫零（Zero Forcing,ZF）检测的检测性能,在信噪比较小时,ZF-NS算法的检测性能逼近最大似然检测,且该算法在不考虑第一级ZF检测的前提下,第二级检测算法的计算复杂度与用户发送天线数呈线性关系。