多输入多输出(Multiple-Input Multiple-Output,MIMO)技术可以有效地提高通信系统的数据速率,该技术受到了广泛认可,已成为下一代无线通信系统的关键技术,一直是同行专家和学者研究的热点。本文对无线通信系统中MIMO检测算法进行了研究,并在此基础上提出了相应的改进。非线性MIMO检测算法的弊端是随着天线数量的增加,其算法复杂度也呈非线性趋势地增加,例如最熟知的最大似然检测算法(Maximum Likelyhood,ML),随着发送端的天线数量的增长,该算法的复杂度呈指数地增长。一方面,最大似然检测算法的性能是最好的,但它的复杂度太高,工业上不易于实现。另一方面,线性检测算法计算复杂度相对较低,但性能又不能得到保障。球检测算法(Sphere Detection,SD)是一种树搜索算法,它通过减小搜索的范围来达到降低复杂度的目的。比起最大似然检测算法的指数级计算复杂度,球检测算法的平均复杂度是多项式级的。球检测算法将MIMO检测问题转换为通过控制半径的变化来搜索超球内点的问题。本论文研究内容为MIMO通信系统中的检测算法。对MIMO检测算法的改进提出了自己的想法,并通过推导和仿真验证了改进算法的可行性。本文的主要工作如下:1.针对最大似然检测检测算法和串行干扰消除(Ordered Sucessive Interference Cancellation,OSIC)检测算法的特点,提出了基于ML的OSIC改进算法。将性能最优的ML检测算法应用到信噪比低的信号层,保障了后面信号层的正确率,提高了系统整体的检测性能,使OSIC检测算法在复杂度没有明显增大的情况下,检测性能得到了大大地提高,甚至在部分情况下其计算复杂度比单独使用OSIC还要低。2.针对QR分解检测算法的特点,将QR分解应用到OSIC检测算法之中,在基于ML的OSIC改进算法的基础上进一步提出了基于QR分解和ML的OSIC改进算法,在减少前面信号层的误码传播现象的同时,保障了后面信号层更高的正确率。该算法增加了部分复杂度开销,但进一步提高了检测性能。3.通过对球检测算法中初始半径选择策略的研究,提出了改进的初始半径选择策略——基于信噪比阈值的初始半径选择策略。根据传输信道信噪比条件的不同切换相应的初始半径选择策略,该算法有效地改善了球检测算法中因初始半径选择不当而引起的计算复杂度过高的问题。