多输入多输出(Multiple-Input Multiple-Output, MIMO)技术在当前及未来无线通信中具有广泛的应用前景。但由于终端体积受限,难以集成多个空间相关性弱的天线,所以虚拟空时编码(STBC)和MIMO系统应运而生,它们通过在分布式中继节点间引入协同通信来获得分布式空间分集与复用增益。现有的大多数分布式方案仅仅是集中式方案的直接延续,要想获得分布式空间分集和复用增益都要需要大量的信令开销。近年来随机分布式STBC虽可解决信令开销大的问题,并且可获得分布式空间分集增益,但其误码性能仅能在活动中继很多的情况下才能逼近集中式方案。因此,论文主要研究在最小化信令开销的情况下,在虚拟MIMO系统中如何获得尽可能多的分布式空间分集与复用增益。首先,论文基于随机分布式STBC技术,在考虑了反馈时延等实际问题的条件下,通过引入一种新的有限反馈方案来优化系统的误码性能。在该反馈方案中,接收端将对随机方案做出评价并反馈给各中继,而各活动中继将会根据接收到的反馈信息选择保留前面的随机方案或者产生新的随机方案。因为该反馈方案可更好地利用信道的时间相关性,获得了隐性的信道信息,所以该方案能够获得阵列增益。然后,本论文还把随机分布式空间分集方案推广到分布式空间复用系统中来提高频谱利用率,在分析了新方案的限制条件后,提出了基于最大化信息速率的最优化准则来设计签名向量,并用梯度算法实现了分布式MIMO方案。