多输入多输出（MIMO）技术以其潜在的巨大优势已成为长期演进（LTE）及LTE-Advanced中的关键技术。在MIMO中采用V-BLAST技术，能够达到较高的频谱效率。目前标准所支持的最大天线数目为8，所能达到的频谱效率仅10bps/Hz。宏MIMO（Massive MIMO）作为现有MIMO技术的延伸，将天线数目扩展到数十根或者上百根，能够提供较大的分集和复用增益，并将信道容量和频谱效率提高数十倍。然而，在天线如此多的Massive MIMO系统中，接收算法的复杂度成为了其实现中的瓶颈。正是在这样的背景下，本文对Massive MIMO中不同接收算法的检测性能和复杂度进行研究，以探求高性能、低复杂度的接收检测算法。常规信号接收方法在性能和复杂度上很难同时满足Massive MIMO的要求。本文对基于邻域搜索的多级似然上升搜索（M-LAS）算法、禁忌搜索（TS）算法和基于马尔科夫链—蒙特卡罗（MCMC）技术的信号检测算法进行研究。在不同天线数目、迭代次数和参数影响下，通过仿真对不同检测算法的性能和复杂度进行分析；利用多次重检和不同停止准则提升算法的检测性能。在第一章中对Massive MIMO的研究背景、现状和本文所要做的研究工作进行简要概述，明确本文所研究的方向。第二章对本文采用的MIMO系统模型和常见的MIMO检测技术作简要分析，研究最大似然（ML）检测的误差分布特性。第三章主要研究M-LAS算法的检测原理和复杂度，分析基于QR分解的M-LAS联合检测性能。利用不同初始值多路并行执行M-LAS检测算法可提高检测的性能，但存在如何选择最优执行次数的难点。为此介绍了复杂度较低的M-LAS重检（M-LASR）算法。第四章简要介绍TS和分层TS（LTS）算法的检测原理和实现步骤，分析不同参数对检测性能的影响。利用排序QR分解能提高检测性能的优点，分析排序对LTS算法性能的影响，并就TS重检（TSR）算法进行了仿真分析。第五章主要解决吉比斯采样的MCMC检测算法在高信噪比（SNR）下检测性能不佳的问题，利用逃逸机制和多次重检改善检测性能。并在16QAM调制方式下对随机化MCMC（RMCMC）、分层RMCMC（LRMCMC）和RMCMC重检（RMCMCR）算法的性能进行仿真分析。仿真结果表明三种检测算法在天线数为N的Massive MIMO中，每符号的平均检测复杂度为(N2)；且都具有随天线数增加，检测性能增强的Massive MIMO特性。在4QAM调制64×64的V-BLAST系统中，三种检测算法的性能在达到误比特率（BER）为103时所需的SNR与SISO-AWGN相比差异不足1dB。