多输入多输出(multiple input multiple output, MIMO)通信系统在提高频谱效率方面具有无与伦比的优势,能够满足用户对高速率通信的技术要求,使其成为未来无线通信最有发展前景的技术之一。在实际无线信道中存在多径效应,在接收端将会产生多用户干扰,因此本文的研究重点为如何消除MIMO系统中下行链路的多用户干扰,采用方法为预编码技术。由于脏纸编码(dirty paper coding, DPC)复杂度太高,在实际系统中难以真正实现,因此MIMO预编码研究更多的为线性预编码中的迫零(zero-forcing, ZF)预编码、最小均方误差(minimum mean square error, MMSE)预编码、块对角化预编码(block-diagonalization, BD)以及非线性的模代数(Tomlinson-Harashima prdcoding, THP)预编码和矢量扰动预编码,本文的结构和内容安排如下：第一章绪论部分将介绍MIMO技术的研究背景和意义,其次将概括叙述预编码技术的主要特点和国内外的研究现状。第二章介绍了无线信道的特性和MIMO系统的信道模型,在信道信息已知和未知的情况下分析了MIMO系统的容量问题,最后给出了MIMO系统预编码性能的评价准则,比如信噪比(signal noise ratio, SNR)、误比特率(bit erro rate, BER)和MMSE准则。第三章重点讨论收发机的联合优化问题,首先描述了ZF预编码、基于奇异值(singular value decomposition, SVD)分解的块对角化方法,然后采用广义三角分解(generalized triangle decomposition, GTD)来代替SVD分解应用到BD预编码模型中,分析了迭代和非迭代两种方法的性能。其次在以上各个设计准则的基础上,引入了功率受限下收发机的联合优化问题,采用数学分解的方法求解编解码矩阵,本章采用两种方法进行了详细讨论,分别是非迭代算法和迭代算法。第四章主要介绍非线性的预编码技术,着重讨论THP预编码算法在MIMO技术中的实现,本章首先介绍了在ZF和MMSE准则下的单用户系统中的QR-THP和GTD-THP预编码,在此基础上将单用户THP预编码模型推广到多用户系统,在ZF和MMSE准则下分析多用户QR-THP和GTD-THP预编码,对引入广义三角分解的THP预编码和传统的基于QR分解的方法做对比,说明该算法的优越性。第五章为本文的总结部分,在总结本文内容的同时,提出下一步可能的研究方向。