MIMO是提高移动通信系统频谱效率的关键技术之一，已经广泛地应用到各种无线通信系统。然而，由于无线信道的时变和多径衰落等无线信道特征对信号传输带来的影响，以及一些不可预知的干扰会导致信号传输错误，影响宽带多媒体业务传输的可靠性。随着现代通信系统对高数据速率和数据传输可靠性的需求，深入研究MIMO移动通信系统可靠性传输技术对于保障移动通信系统的业务传输质量十分重要。　　本文重点研究了四个方面:1.发射分集和空间复用这两种多天线技术的特点和各自适用场景;2.为提高信道估计的准确度，研究基于导频的下行信道估计算法，提出了一种使用神经网络的高精度信道估计算法;3.为了在低信噪比条件下保障传输可靠性，采用HARQ技术并研究了不同HARQ重传方式和不同重传次数对系统性能的改善;4.自适应调制编码技术对于系统性能的提升。　　论文以第四代移动通信技术为背景，基于通信系统物理层关键算法来研究MIMO移动通信系统的可靠性传输。根据3GPP标准使用MATLAB和C语言分步骤对整个下行链路进行仿真实现，完成MIMO移动通信系统仿真平台的搭建。研究结果表明:1.发送分集可以抗衰落以提高链路的可靠性，适用于恶劣信道条件下的场景;空间复用扩展了空间域，通过利用信道的空间特征而有效利用频谱资源，提高系统容量，适用于信道条件较好场景;2.本文提出的高精度神经网络信道估计算法能够更准确地对信道进行信道估计，降低误码率，相比于LS信道估计算法，在均方误差为10-2时，可以取得14dB的信噪比增益;在误码率为10-1时，可以取得2.5dB的信噪比增益;3.在低信噪比条件下，信道估计不能保障误符号率，所以引入HARQ技术，采用HARQ技术可以获得6dB的信噪比增益，因此采用HARQ将会对小区边缘用户和无线信道质量差的用户的通信可靠性有显著提高;4.调制和信道编码也可以有效保障系统的可靠性，调制等级越高，系统误码率也会随着升高，但是降低编码速率可以使误码率变小，自适应调制编码技术根据信道质量而灵活调整信道调制编码方案，可以有效影响系统可靠性，提高吞吐量。