过去的十年中，在无线通信的物理层理论方面有许多突破性的发展，例如多输入多输出技术(Multiple-Input Multiple-Output，MIMO)和正交频分复用技术(orthogonal frequency divisionmultiplexing，OFDM)。多天线技术被认为是未来实现无线高速数据传输的重要手段。与单天线系统相比，这一技术可以在不增加发射功率和信道带宽的情况下成倍的提高系统的容量。因此在最近十年中引起人们广泛的兴趣。 随着数字信号处理芯片的能力越来越强大，数字信号处理在现代通信系统设计中的地位越来越重要。现在一个通信系统基带部分的设计与实现都是在数字域实现。先进的信号处理技术是未来接收机设计的核心。 这篇论文的研究重点从广义上讲是MIMO系统中的信号处理技术。本文共有六章。第一章介绍了无线通信系统的发展历史和无线传播信道的特性。第二章介绍了3GPP/3GPP2 SCM模型，并给出了SCM矢量信道建模的方法。对SCM模型和理论模型的相关特性进行了理论分析和比较，并对SCM模型提出了改进，使其在空间相关性和时间相关性上更加接近理论特性。第三章研究矢量信道估计算法，并分给出了平坦衰落MIMO信道和频率选择性MIMO信道的信道估计算法。第四章首先介绍了BLAST结构和BLAST结构的检测算法。BLAST本质上是一种实现单用户系统使用多天线的技术。多用户MIMO系统相对于单用户MIMO系统而言存在着较大的差异，单用户系统中不用考虑MUI，而在多用户系统中MUI如果没有得到很好的处理，将会引起系统性能的严重恶化。进而，第四章基于V-BLAST结构，研究了多用户MIMO系统的多用户检测技术，给出了一种有效抑制MUI的接收机算法。OFDM和基于块传输的方式是两种有效对抗频率选择性信道的方法。两种方式在其每个数据块前面插入了长度大于信道最大时延的循环前缀(CP)作为保护间隔(GI)。当GI长度不够或者根本不使用GI时，接收信号就会受到干扰的严重影响并且频域均衡器不能有效地均衡多经信道，因为此时的信道矩阵不再是循环矩阵。第五章对两种传输方式下MIMO系统的干扰消除算法做了初步的研究，提出具有低复杂度的，有效的干扰消除算法，并通过计算机仿真验证。第六章给出了论文总结以及展望。