近年来,随着媒体通信、宽带数据业务需求的增加,如何在移动环境下能获得高速率、高质量的通信成为研究热点之一。本文主要结合移动通信中的两大研究热点一多输入多输出(multiple-input multiple-output, MIMO)技术和中继转发技术,来分析无线通信系统的性能。MIMO技术是指在发送端和接收端都使用多根天线,从而形成多个空间信道,来提高系统容量和传输质量。中继是指在在发送端和接收端之间增加一个节点,对信号进行接收转发,能够在不增加发送功率的前提下提高网络的覆盖范围。本文对MIMO技术中的分集技术和中继转发技术中的转发模式分别进行研究。在此基础上,选择Alamouti和单中继方案构建系统,对系统性能进行算法推导和系统仿真。论文的主要研究内容如下：(1)MIMO通信系统的研究。MIMO技术主要是使用空间分集,从接收分集和发送分集两个方面分别讨论几种接收方案和发送方案的性能。重点研究了Alamouti传输方案,对其两种模型的发送接收过程进行描述。(2)中继转发系统的研究。从单天线和多天线方面划分,从单中继和多中继方面划分,从单用户和多用户方面划分,中继转发系统可以划分成多种模型。中继节点的工作方式主要是接收和转发,发送端、中继节点、接收端的工作方式都应在进行系统分析时进行假设。(3)基于中继转发的MIMO系统研究。将MIMO技术与中继技术相结合,建立单用户单中继的系统模型,由于Alamouti方案简单易用,进行系统性能算法的推导。最后,在MATLAB环境中,对所建模型的性能进行蒙特卡罗仿真,比较理论分析结果和蒙特卡罗仿真,从而验证了所推导的理论表达式的正确性。