大规模MIMO技术,作为5G通信的关键技术之一,通过天线数量的大幅度增加进一步提高了通信系统的能量和频谱效率,然而天线数量的剧增也导致大规模MIMO系统中接收端的信号检测复杂程度大幅度增加,严重影响了大规模MIMO技术的实际应用。在这样的背景下,本论文对大规模MIMO系统中上行链路的信号检测进行研究,以探求适合实际应用的信号检测算法。本文的主要工作如下:首先,本文对传统线性信号检测算法(MF、ZF、MMSE)和非线性信号检测算法(MF-OSIC、MMSE-OSIC)进行了介绍,通过仿真对比分析各算法在传统MIMO系统和大规模MIMO系统中的区别,并在接收端天线数量远大于发射端天线数的大规模MIMO系统中,利用MF算法低信噪比时检测性能较好这一特点,提出一种线性信号检测的改进算法。在收发端天线数量相等的大规模MIMO系统中,利用MF-OSIC算法在低信噪比时检测性能较好这一特点,提出一种非线性信号检测的改进算法。仿真结果表明两种改进算法在保证检测性能达到最优的同时又降低了算法的计算复杂度。其次,本文对PIC检测的原理进行了介绍,并在此基础上提出一种MF-PIC算法,该算法将MF算法的输出作为PIC检测的输入。仿真结果表明在接收端天线数远大于发射端天线数的大规模MIMO系统中该算法检测性能较好且复杂度较低。针对上述算法在收发端天线数接近时检测性能下降的问题,提出两种改进算法,一种是基于二级PIC的MF-DPIC算法,另一种是基于MF-SIC的MF-SPIC算法,仿真结果表明两种改进算法均可以有效提升原算法的检测性能。最后,在发射天线数和信噪比变化范围均比较大的大规模MIMO系统场景中,使用单一的信号检测算法会存在检测性能较差或复杂度较高的问题。为此,本文提出一种接收天线数固定条件下的自适应信号检测改进方案,通过发射天线数和信噪比灵活选择信号检测算法,仿真结果表明该方案与任意单个算法相比,既能使检测性能达到最优,与方案中所选的性能最好的算法相比复杂度又较低。