随着智能终端以及多媒体业务的不断发展,人们对无线通信的需求越来越大,要求更高效的传输速率、更好的通信质量、更多的用户接入。但是频谱资源有限,可用的频谱资源也就越来越紧张,因此需要提高频谱资源的利用率。多天线技术可以充分地利用多径效应,用以提高频谱效率,已成为目前或未来高速无线通信的关键技术。MIMO OFDM下行无线通信系统将MIMO技术与正交频分复用(OFDM)技术相结合,可以有效地克服无线信号在多径信道传播中所导致的符号间干扰。当基站已知信道状态信息时,对发射信号进行相应的预处理可以进一步提升系统吞吐量和容量、改善信号传输可靠性。无线通信技术中的干扰问题一直是人们关心的核心问题。MIMO OFDM下行无线通信系统中的多天线技术以及多用户场景,也面临各种各样的干扰。均衡技术一直是全球范围内的研究课题,具有重要的理论和实际价值。在MIMO OFDM下行多天线系统中,针对多天线干扰问题,现有的串行均衡干扰消除技术复杂度过高,并且时延相对较大不利于实际应用,并行均衡干扰消除技术性能相对较差,但是实现结构简单。因此低复杂度高性能的均衡技术成为新的需要。为此,本文针对目前MIMO OFDM下行均衡方法研究的不足,分别对MIMO OFDM下行单用户同步系统模型、MIMO OFDM下行单用户异步系统模型以及MIMO OFDM下行多用户系统模型的均衡方法进行了深入的研究。本文主要研究内容如下:首先,针对MIMO OFDM下行单用户同步通信系统的均衡方法进行了研究。基于LMMSE软迭代均衡模型提出一种基于预编码矩阵的混合迭代均衡方法。该方法以减少深衰落信道对传输信号的影响以及降低均衡算法复杂度为目标,通过预编码的思想减少部分子载波受深衰落时对原始发射信号的影响,同时在接收端引入最小均方误差排序QR分解方法用以降低传统LMMSE软迭代均衡算法的复杂度,从而以较低的计算复杂度实现高性能的检测。值得注意的是,该算法虽然相比于基于LMMSE软迭代均衡方案在接收天线数大于等于发射天线数时,算法复杂度有较大的降低,但是也面临着随天线数目大小和信道编码码块长度以及调制多进制数的不同,复杂度呈指数增长,从而在实际过程中受到了一定的限制。因此,为了进一步减少均衡算法的复杂度以满足实际通信的要求,针对低复杂度的基于软迭代的并行迭代均衡模型进行研究,提出两种并行迭代均衡方法,分别为:基于预编码扩展的并行迭代均衡方法和基于修正矩阵的并行迭代均衡方法。第一种均衡方案通过预编码扩展的思想以及最小均方误差排厂QR分解的思想的引入,能够显著地缓解目前并行迭代均衡算法在迭代过程中的误差传播的影响,同时可以有效地降低算法的运算复杂度,从而实现了算法性能与复杂度之间的可调性权衡。第二种均衡方案在第一种均衡方案的基础之上,通过修正矩阵的引入,能够有效地解决第一种均衡方案中将部分期望信号当做干扰的情况,从而进一步改善系统误码率性能。其次,对MIMO OFDM下行单用户异步通信系统的均衡方法进行了研究。针对目前异步通信系统的并行迭代均衡方法中的一些问题,如仅考虑方案中天线间干扰而没有考虑迭代过程中的误差传播问题,仅考虑检测准确性而没有考虑方案运算复杂度的问题,提出了两种异步并行迭代均衡方法,分别为:基于功率扩展的并行迭代均衡方法以及基于修正矩阵的并行迭代均衡方法,分别通过功率扩展矩阵和修正矩阵解决目前异步通信系统中的多种干扰问题,即,使得方案性能与运算复杂度得到有效权衡,并对两种迭代方案的性能、复杂度进行了详细的分析。两种并行迭代均衡方法充分考虑了异步通信系统中的天线间干扰问题、迭代过程中的误差传播问题以及方法运算复杂度的问题,能够提升现有异步迭代均衡方法仅考虑其中一种或两种干扰的情景进行均衡的不足,最优地确定均衡方案,有效地提高系统误码率性能,减少多种干扰对传输信号的影响。最后,对MIMO OFDM下行多用户同步系统的均衡方法进行了研究。首先将脏纸编码的思想以及最大化系统容量预处理矩阵引入到基于SLNR的多用户MIMO预编码的设计中,提出了基于预处理矩阵的连续信漏噪比(SSLNR)的多用户MIMO预编码方法。该方案中的脏纸编码的思想是将其他用户已知泄漏,在发射端进行抵消,因此在计算SLNR时,只需考虑对其他用户未知的泄漏,忽略掉可以进行抵消的泄漏,最大化SLNR,得到预编码矩阵。最大化系统容量预处理矩阵的思想,是减少脏纸编码过程中非线性模运算对系统性能与容量的影响,通过采用最大化系统容量的准则,得到的预处理矩阵可以有效地减少模运算带来的性能损失。求出预编码矩阵与预处理矩阵后,对等效的信道矩阵利用Tomlinson-Harashima预编码方法,抵消掉前面计算SLNR时忽略掉的泄漏。该方法相比于目前的基于连续信漏噪比的多用户MIMO预编码方案,误码率得到了有效地提升,同时也继承了基于连续信漏噪比的多用户预编码方案不受收发天线数目限制的优点。为了进一步提升性能,提出了基于预处理矩阵与几何平均值分解的连续信漏噪比多用户MIMO预编码方案。基于预处理矩阵的连续信漏噪比预编码方法和传统的SLNR预编码方案一样,每个用户的多个数据流之间存在增益差的问题,系统的误码率性能主要由最差的子信道决定,使得系统存在较大的损失。针对此问题,引入几何平均值分解的思想,将几何平均值分解方法应用到基于预处理矩阵的连续信漏噪比预编码方案中,能够使每个用户的多个数据流具有相同的增益,进一步提升每个用户之间的公平性,进而提升了系统误码率性能。