LTE上行链路中用户到基站传输数据时，存在来自同频用户的干扰。当用户配置单天线，基站配置多天线的情况下，占用相同时频资源的两个用户与基站构成了虚拟MIMO系统。本文主要是针对MIMO多天线层间存在干扰，以及虚拟MIMO用户间存在干扰的两种情况，研究提高系统性能的迭代干扰消除检测算法和接收机干扰抑制合并算法。本文的研究过程如下，首先介绍虚拟MIMO结构，研究了V-BLAST的检测算法，主要是基于线性方式的迫零检测算法，最小均方误差检测方法，和基于反馈的串行干扰消除检测算法，并行干扰消除检测算法。然后介绍了软信息和软译码的概念，研究了软干扰消除MMSE-SIC结构和基于接收信号的两种接收机结构。对于接收机合并算法的研究，首先分析了SIMO结构中常规的选择式合并方法，等增益合并方法，和最大比合并方法(MRC)。介绍了干扰抑制合并(IRC)方法，分析比较MRC与IRC的联系与区别。针对于IRC算法中干扰估计，介绍了基于接收信号和基于导频两种估计干扰协方差的方法。最后将串行干扰消除方法和IRC方法相结合，分析在不同干扰场景下IRC算法的性能。通过仿真，可以看出基于反馈的干扰消除检测算法比线性检测算法有更好性能。采用软信息的迭代方式干扰消除检测性能较硬判决方式有显著提高，而且随着迭代次数的增加性能也会有所改善。对于两种干扰协方差估计方法，基于导频的估计方法更为准确，性能更优。最后可以看出在LTE链路中通过将IRC与SIC结合比单独使用IRC合并技术效果更好。