MIMO技术能利用收发两端的多根天线来提高系统的性能,是4G和5G的关键技术之一。在实际系统中,多个用户同时向基站发送信号或者同时接收来自基站的信号,用户之间相互干扰,影响通信的质量,因此干扰消除方法对MIMO系统性能的提升至关重要。本文分析了不同场景下已有干扰消除方法的优劣,针对已有方案存在的问题,提出了相应的改进方法。本文主要工作及创新成果如下:(1)提出了MIMO X信道中基于空时编码和双层预编码的干扰消除方法。所有的用户都采用阶数为3×6的空时码字,并且对所有的码字都进行双层预编码。双层预编码使得干扰码字对齐且有用的码字正交传输,接收端先采用迫零算法消除干扰码字,再利用正交特性分离有用的码字。(2)对于3用户的MIMO干扰信道,提出了一种新的空时处理方案,该方案无需反馈信息,并能消除多用户干扰。每个用户采用2×2的空时编码,每个码字包含4个调制符号并且具有Alamouti结构,在不降低传输速率的情况下在码字中引入两列零向量。不但消除了第3个接收端的多用户干扰,还减少了前两个接收端的多用户干扰,然后再分离前两个接收端收到的多个码字,消除了多用户干扰。(3)对于3用户和1个中继节点的MIMO Y信道模型,提出了一种基于空时编码以及预编码的干扰消除方法。每个用户和中继节点都采用2×2的Alamouti编码。在MA阶段,所有的节点交换CSI,基于CSI设计预编码矩阵使得每对码字对齐,中继节点分离每对码字并且分别译码每对码字的元素。在BC阶段,无需CSI,也无需使用预编码在空间上组合码字,仅利用Alamouti码字对应等效信道矩阵的正交特性就消除了码字对之间的干扰。(4)对于K用户和1个基站的大规模MIMO系统,提出了一种高效的上行传输方法。基站和用户约定若干个具有Alamouti码字结构的预编码矩阵,每个用户根据基站配置的天线的个数和用户的个数决定每次传输的Alamouti码字的数量,并且对码字进行预编码后发送出去;基站利用Alamouti码字对应的等效信道矩阵的正交特性,采用迭代的方法分离每个Alamouti码字并译码期望接收码字的每个元素。