GSM通信系统经过长期的发展已经成为当今最成熟的移动通信体制。为了满足人们对移动通信日益增加的服务要求,GSM系统积极吸纳各种先进技术以实现自身持续改进。Turbo均衡技术采取联合均衡和译码的处理方式,能获得更好的性能,因而倍受关注;单载波频域均衡技术在将来的4G移动通信标准中,以复杂度低、实现简单、高峰平比抑制等特性获得了广泛的支持。本文将这二种技术整合入GSM通信系统中,以期获得性能更优的系统解决方案,并进行了仿真验证。本文的主要研究成果如下:1.简要阐述了传统的Turbo均衡原理与Turbo接收机框架,并对性能最优的MAP迭代接收算法进行了理论分析与性能仿真;2.比较了与基本均衡准则对应的频域均衡器ZF和MMSE的性能,并在此基础上研究了低复杂度的线性MMSE均衡器,给出了性能仿真结果。3.研究了基于软干扰相消的频域均衡器及其优化算法,进行了GSM系统级仿真,仿真结果表明了逐符号的软干扰相消频域均衡器与Turbo结合的解决方案具有优良性能;4.分析了频域软反馈的均衡器,这种均衡器将“软信息”、“译码反馈”等多重优势集于一身,其迭代性能超越了实现代价很大的MAP均衡而成为Turbo频域接收的优秀解决方案。5.提出了基于MMSE-RISIC的迭代接收算法,该算法首先对数据块产生的码间干扰在频域进行整体估计、相互抵消,进而MMSE滤波以产生新的均衡输出,最终送至译码器进行迭代。仿真结果表明,迭代处理后,算法获得了0.728dB的性能增益,与MAP算法相差0.3dB,是一种近似最优的性能方案。6.提出了与GSM系统相适应的Turbo接收机解决方案,该方案结构清晰,实现方便。仿真结果表明:软干扰相消频域均衡器、MMSE-RISIC、FDE-FDDF-Soft均是性能优秀的解决方案,其中FDE-FDDF-Soft具有最佳性能。