随着移动设备功能的不断丰富以及物联网的发展，网络数据堵塞大有上升的趋势。在面对有利的频谱资源的稀缺性以及不断增长的吞吐量需求，大规模多输入多输出（Massive Multiple-input Multiple-output）系统必定是即将到来的5G网络通信系统中不可或缺的关键技术之一。Massive MIMO技术通过使用更多的天线服务用户，将带来更高的频谱效率以及更高的能量效率。　　与单根天线点到点的系统相比，在MIMO系统中，同信道干扰（co-channel interference）增加了信号检测的难度。一方面，最优的MIMO信号检测方法是一个NP-hard的问题，其运算复杂度随着发送天线数目而呈指数式的增长，未来Massive MIMO将会在基站使用成百上千的天线，最优信号检测方法几乎无法实现。另一方面，尽管随着半导体工业的发展，硬件性能在增强，但用于计算的功耗在增大，为了绿色可持续发展，我们应该尽可能减少计算功耗。因此，低运算复杂度且能保证性能的MIMO信号检测方法在实际应用中显得非常必要。　　本文主要研究MIMO系统信号检测算法，主要面向硬判检测。本文首先对多种信号检测方法进行简单的回顾，分析其优缺点，然后将最先进的贝叶斯近似推理方法结合MIMO信号检测中，最后介绍了一种低复杂度高性能的MIMO迭代接收机。　　本文的主要贡献如下：　　首先，数学上，总结了一般教材比较少提及的复随机变量的定义与性质，这些性质与定义有助于我们理解后文的内容。此外，强调了复数的“同构”现象，再借此把高斯相乘定理推广到复数域，给出了原创性证明。　　然后，数学上，用一种新的方式推导了期望传播（Expectation Propagation）算法，从精确的后验概率计算，到假想密度滤波，再到期望传播算法，用迭代流程图清晰地展示三种算法的演化与差异。　　最后，介绍了一种基于期望传播算法的MIMO迭代接收机，搭建了完整的MIMO点对点通信仿真平台，并在仿真实验中验证该方法的有效性。除此以外，本文对基于EP的MIMO信号检测算法的迭代过程给出一个形象的解释，指出其迭代过程本质上是一个不断轮流替换并近似后验概率密度中表征信号耦合关系的部分与非高斯的部分。