小区间干扰(ICI)是一个固有的问题,它决定着系统的容量。在蜂窝小区系统中,小区边缘用户受到相邻小区的干扰,因此它们的吞吐率相当低。小区间干扰消除技术可以消除共道干扰,并且提高小区边缘的性能。正交频分多址(OFDMA)因其高频谱效率等优势被选为LTE下行链路的多址方案。与码分多址(CDMA)不同,OFDMA无法通过扩频方式消除干扰,因此在LTE中得到主要研究的是数据概率辅助(PDA)与交织多址(IDMA)结合的迭代干扰消除技术。PDA可以实现迭代的多用户(小区)检测,而IDMA能获得显著的性能增益,从而抑制小区间干扰。首先,本论文建立了一个多小区干扰的MIMO系统,并且考虑了三种现有的PDA检测算法,即最小均方误差检测(MMSED)算法,均值软判决检测(SDD)算法和最大后验概率检测(MAPD)算法。其中MMSED和SDD算法属于软干扰消除检测(SoICD)算法,而MAPD算法属于广义的Turbo检测算法。仿真结果表明,虽然基于相同的检测原理,但MMSED算法在复杂度和性能上都要逊色于SDD算法。SDD算法优点是复杂度低,有良好的稳定性,在处理弱干扰方面表现出优秀的性能,缺点是对强干扰的处理能力不足。而MAPD算法优点是在处理强干扰方面表现出优秀的性能,缺点是复杂度高,在处理弱干扰方面稳定性不足。接着,为了实现它们的优势互补,论文提出了一种改进的PDA检测算法——分组的MAPSDD算法,它很好地结合了SDD与MAPD算法。按照干扰信号的强度的不同,本论文又提出了三种基于改进算法的方案。仿真结果表明,对不同强度的干扰采用不同的检测方案是可行和灵活的。根据对仿真结果的分析,可以得到一种综合的检测方案：对于强干扰信号,可以把它们与期望信号分到同一组,采用分组的MAPSDD算法检测；对于中干扰信号,可以采用SDD算法检测；对于弱干扰信号,则可以采用高斯近似的方法处理。这样既能提高性能,又能降低复杂度。最后,论文建立了两种多小区干扰的MIMO-OFDM系统,并且仿真分析了在MIMO、BLAST-OFDM和STBC-OFDM这三种系统下的干扰消除算法性能。仿真结果表明,改进算法的方案在MIMO-OFDM系统中也表现出相似的性能。