协作通信系统通过彼此之间的相互合作,共享服务区域内的用户天线或中继节点,从而形成虚拟MIMO (Multiple input Multiple output),不但可以获得MIMO技术的优势,同时也为MIMO技术的进一步扩展提供了新思路。此外,随着MIMO系统相关技术的发展,协作通信系统的研究也得到了进一步的深入。特别是协作通信与波束成形技术的有效结合,无疑为未来无线通信的快速发展提供了可能。然而,协作系统中的波束成形问题更为复杂：不仅与协作方式相关,而且与传统MIMO系统中的波束成形技术差异较大。本文针对两跳协作通信系统,重点研究了放大转发(Amplify and Forward, AF)协议下协作系统的波束成形问题。论文的主要工作如下：1.研究了波束成形技术下协作系统的信道容量问题。论文从传统MIMO系统出发,通过分析协作系统不同协作方式下的信道容量,研究了发射端采用一种波束成形方案时两跳协作系统的信道容量问题,随后给出了系统信道容量的表达式。最后的仿真分析表明该方案下协作系统的信道容量与发射天线阵的阵元数成正比关系。2.研究了单用户多中继协作系统的波束成形问题。在协作系统信道状态信息已知的情况下,论文将波束成形方案分为三种情况：1)在给定一定服务质量(Quality of Service, QoS)的情况下,以最小化中继端总发射功率作为目标函数,通过拉格朗日乘数法获得了最优波束成形矢量,随后通过Matlab仿真,建立了最优波束成形下基于给定QoS的中继端最小发射总功率方案。仿真结果表明,中继节点的前向、后向链路信道状态都会对中继端的最小发射总功率产生影响,而且当给定QoS大于一定值时,中继端的最小发射总功率将不存在。2)在中继端总功率受限的情况下,以最大化源节点与目的节点之间的传输速率作为目标函数,通过矩阵分析方法获得了最优波束成形矢量,随后通过Matlab仿真,给出了最优波束成形下的传输速率与中继端总功率之间的关系曲线,以及不同信道环境下系统的误码率性能比较。仿真结果表明,在相同发射功率下,中继节点的后向链路信道状态对传输速率的影响更为密切,而且当发射功率超过一定值时,系统可以获得的最大传输速率不再增加。3)分别在中继端每个节点功率受限的情况下,以最大化源节点与目的节点之间的传输速率作为目标函数,利用Matlab工具箱求解最优化问题,获得了最佳波束成形下的传输速率。随后通过Matlab仿真,给出了不同信道环境下系统的误码率性能比较。论文最后通过仿真比较了后两种方案的差异。结果表明,后两种方案性能接近,而且相比于固定分配方案均可以显著的提升系统性能。