在多小区MIMO通信系统中,小区边缘用户会收到来自小区间和小区内的强干扰信号,导致系统容量下降。作为MIMO系统中抑制干扰的新思路,干扰对齐通过设计发送端的预编码矩阵和接收端的干扰抑制矩阵压缩干扰信号的空间维度,增大有用信号的自由度,获得了比传统的干扰处理方法更理想的系统容量。本论文侧重研究了多小区多用户MIMO场景中,上行和下行信道中干扰对齐方法,具体研究内容如下:1.针对多小区MIMO广播信道用户调度中系统频谱效率未得到充分考虑的问题,提出了一种基于信号子空间的机会式干扰对齐算法。首先,利用基站端广播的随机正交子空间,接收端设计了一个可以度量小区间干扰强度的系数,并基于小区间干扰最小化准则设计了干扰抑制矩阵;其次,使用迫零算法设计了内层预编码以消除小区内的干扰;最后,根据用户端的反馈,基站选择本小区内干扰指标最小的若干用户发送数据,在基站与被选中用户建立的下行链路中,双层预编码的设计可以同时处理小区内和小区间干扰。仿真表明,本文的方法有效地提升了系统容量和能量效率,并且降低了系统误码率。2.针对每小区1个边缘用户的MIMO上行多址信道,提出了一种基于上三角分解的有限反馈干扰对齐算法。不同于传统的仅考虑如何改善对齐干扰项的有限反馈方案,首先对联合信道进行三角分解得到等效模型,消除了一半的干扰,降低系统对干扰和预编码量化误差的灵敏度,增强系统的稳定性;其次,考虑到不同小区用户受到的干扰不同,本文在三角分解之前对联合信道进行调整以平衡用户速率,并进一步进行功率分配,最后分别通过最小化干扰泄漏和最小均方误差准则设计预编码矩阵和等效干扰抑制矩阵。仿真结果表明,不管信道有无反馈量化误差,本文算法都能有效地提高系统的性能。