大规模多输入多输出(Large-MIMO,Large-scale Multiple-Input Multiple-Output)技术能够实现很高的频谱效率和能量效率,被认为是下一代移动通信(5G,the 5th generation)的关键技术之一,具有极高的研究价值。然而,Large-MIMO系统中基站端天线数目能达到数十根甚至上百根,相比传统的MIMO系统,其接收端信号检测变得更加复杂,Large-MIMO系统能否被实际应用取决于接收端检测算法的低复杂度设计。本文从性能和复杂度两个方面对Large-MIMO系统中不同的信号检测算法进行研究,以探求面向实际应用的低复杂度接收处理技术。本文首先介绍了Large-MIMO的技术优势与难点,指出了本文的研究方向与意义。其次,本文简述了几种传统的MIMO检测算法,分析了其在Large-MIMO系统中的适用性及适用条件。非线性检测算法如球形译码(SD,Sphere Decoding)检测能够实现接近最优的性能,但是由于其过高的复杂度,使其在高维系统中不可适用。线性检测算法如最小均方误差(MMSE,Minimum Mean Squared Error)检测在传统MIMO系统中因其较差的性能多不被采用,但是由于Large-MIMO系统的信道特殊性,使得其成为Large-MIMO系统检测算法中的一种选择。然后,针对Large-MIMO系统中基站天线数远大于用户数的场景,本文重点研究了一种快速超松弛(AOR,Accelerated Overrelaxation)迭代法并对其进行了改进。由于在Large-MIMO系统中,随着基站天线数的逐渐增大,信道矩阵的列向量是渐渐正交的,因此,当基站天线数远大于用户数时,采用简单的低复杂度线性检测(如MMSE算法)即可实现接近最优的性能。本文在分析Large-MIMO系统中信道硬化特性的基础上简要介绍了两种基于MMSE的改进算法——Neumann级数似然算法和共轭梯度法,两种算法都降低了MMSE算法的复杂度,但是性能相对MMSE算法均有较大损失。本文提出的AOR迭代法,可以看作是对近期Jacobi、Gauss-Seidel等迭代法的广义定义,本文从算法原理、最优性能参数选择、初始解近似和LLR近似等多方面作详细研究和分析,通过公式推导,理论证明了AOR迭代法中的Gauss-Seidel估计式为最佳估计式,并且通过仿真结果表明,提出的两种方案(初始解近似、LLR近似)在有效降低复杂度的同时依然能够达到接近MMSE检测的性能。最后针对收发端等天线的情况,简要介绍了两种典型的非线性检测算法:似然上升搜索(LAS,Likelihood Ascent Search)和主动禁忌搜索(RTS,Reactive Tabu Search)算法,并对其检测原理、实现步骤,以及优化算法作了简要研究和讨论。通过仿真分析表明LAS和RTS算法以及其优化算法有一个共同缺陷:在高阶调制下,无论是LAS算法还是RTS算法,都远远达不到SISO-AWGN的性能。本文针对并行干扰消除(PIC,Parallel Interference Cancellation)算法作重点研究和改进,提出了一种降低复杂度的迭代并行干扰消除(R-IPIC,Reduced comlexity-Iterative PIC)算法,仿真结果表明,在基站天线数远大于用户数的情况下,R-IPIC算法能够实现比MMSE更优的性能,并且复杂度低于AOR迭代法;在收发端等天线的情况下,低阶调制时R-IPIC算法能够实现比ZF-LAS算法更优的性能,但在高阶调制下性能仍然较差。针对高阶调制,本文将部分判决思想引入R-IPIC算法,很好地解决了干扰消除过程中带来的误码扩散问题,有效地提升了R-IPIC算法的性能。另外,针对近期文献提出的MF-PIC算法,本文在MMSE-ISDIC算法的启发下,提出了一种MF-IPIC算法,将迭代机制引入MF-PIC算法,有效地提升了MF-PIC算法的性能。