为了进一步满足人们对移动通信高可靠性和高速率的要求，对3G系统进行演进（Long Term Evolution，LTE）的研究项目由此而开启。由于LTE是以多入多出（Multi-input Multi-output，MIMO）技术作为核心技术之一，在发送端用多个天线进行发射信号，而在接收端用多个天线进行接收，每一个接收天线所接收到的数据是所有发射信号经过无线信道后的叠加，因此为了恢复出发送端的信号，采用信号检测算法是必不可少的。本课题是在天津市科技创新专项重点基金项目：“新一代移动通信网络覆盖关键技术研发及示范应用”背景下，主要对LTE系统信号检测算法进行研究，从算法的性能和复杂度两个方面出发，对检测算法进行改进，来达到整个系统性能的提高。本文的研究主要从信号检测算法的两个方面出发，一方面是基于硬判决的信号检测，另一方面是基于软判决的turbo检测。本文完成的工作主要包括以下几点：1、对LTE系统的物理层和正交频分复用（Orthogonal Frequency DivisionMultiplexing，OFDM）技术、MIMO技术、蜂窝中继技术和协作多点传输/接收（CoMP）技术进行研究，为仿真建模提供理论依据。2、对信号检测算法中的最大似然、迫零、最小均方误差和串行干扰消除检测算法进行研究，分析各个算法的优缺点，同时还研究了一种基于FFT的最小均方误差算法。重点研究了两种球形译码检测算法，针对球形译码检测算法高复杂度的问题，本文给出了一种改进的低复杂度球形译码检测算法。通过对改进算法与前面六种算法的误码率和计算时间进行仿真，分析了各种算法在不同仿真条件下的性能和复杂度，并且仿真结果表明：在保持与最大似然检测算法性能一致的情况下，改进算法的计算时间缩短，复杂度大大降低。3、对LTE系统中turbo检测原理和SISO软检测模块的检测算法进行了研究，而SISO软检测模块的检测算法主要包括MAP算法、Log-MAP算法和Max-Log-MAP算法。针对Max-Log-MAP算法虽然复杂度大幅度降低，但其误码率高，性能低的问题，提出了一种对Max-Log-MAP的改进算法。通过进行了仿真分析与对比，仿真结果表明改进算法比Max-Log-MAP算法在性能提高了3dB。