多入多出(MIMO)系统通过在收发端采用多天线技术能够提供很高的系统频谱效率,可以满足未来无线通信系统的高速率需求,已经受到越来越多的关注。在MIMO系统中,信号的检测技术是接收端的一项关键技术。为了提高莱斯信道下MIMO检测的性能,本文将MIMO检测与空时编码以及信道译码结合起来,对MIMO检测算法进行了合理优化。本文主要内容有以下几个方面:首先,介绍了无线信道的传播特性,包括大尺度衰落和小尺度衰落;比较了几种常用空时编码技术的优缺点;仿真分析了莱斯信道下的MIMO系统容量。其次,分类总结了现有的MIMO检测算法,简单介绍了几种经典算法的基本原理,并分析了它们的优缺点,着重在莱斯信道下对算法的性能进行了仿真。仿真结果表明,次优检测算法的性能逼近了最大似然(ML)检测算法,且复杂度较ML算法大大降低,是一种适合在实际系统中采用的算法。第三,介绍了一种基于组合空时编码的MIMO传输分集系统(M-STTD系统);针对M-STTD系统,给出了一种逐天线单元干扰抵消的近最优检测算法。该算法首先在每个天线单元建立部分候选集合,然后迭代地寻找最优的集合,直到满足初始的终止条件。仿真结果表明,该算法能在有效减小传统次优算法复杂度的同时获得近最优的检测性能。最后,为了提高信道条件恶化时的MIMO系统检测性能,引入了联合检测和信道译码的迭代树搜索检测算法。针对传统迭代树搜索检测算法存在的参数选择相互制约的缺陷,给出了一种基于级联检测等效模型的迭代树搜索检测算法。给出的算法将参数选择过程等效为三级级联模型,且各级参数选择相互独立。仿真结果表明,改进的迭代检测算法能够更灵活地实现性能和复杂度的折中设计,可以在相同或相近复杂度的条件下获得更好的性能。