协作通信是近几年兴起的一种全新的通信方式,通过用户或者中继之间的协作,将通信系统的有效覆盖范围扩大,并借助协作方式,实现虚拟的多入多出,从而解决MIMO(Multiple Input Multiple Output)在移动端的应用局限性,获取空间分集增益带来的优点。MIMO系统中的空时编码,因其不需要发送端的信道信息,却能获得发送分集增益而备受瞩目;与其相对应的是需要获取发送信息的预编码技术,通过发送端的预处理,使信号的传送获得角度增益。但空时编码和预编码并不是互相对立,而是可以互相结合,相辅相成,使系统同时获得分集增益和编码增益,性能得到进一步提升。结合这两种技术的研究在MIMO系统已得到全面展开,研究表明基于空时码的预编码技术使MIMO系统的性能得到了实质性的提升。考虑到协作通信系统领域,两种编码结合的研究仍具有不充分性,本文将其进行了扩展,在多中继系统、天线选择系统等展开一系列研究,并对通信系统的性能提升进行了深入的探讨。首先,研究单中继系统以误码率为优化目标的预编码矩阵的联合设计问题;其次,引入对数似然比选择准则,研究基于空时预编码的中继选择问题;最后,考虑中继与天线的联合选择,研究基于对数似然比的选择问题。本论文主要研究的成果归纳如下:1.对协作通信系统的预编码技术、空时编码以及选择算法进行了总结和综述。对于协作通信系统中的预编码研究,根据中继个数分为单中继系统和多中继系统,并根据天线数以及直达链路存在与否对研究文献进行分类和总结。对空时编码,则给出了协作通信系统的通用模型,分析了放大转发和解码转发两种协议下的接收信噪比。对于选择算法,分为天线选择、中继选择以及联合中继和天线选择三方面进行阐述,分别回顾了聚焦于三方面的研究重点,为后续章节基于各项方法的研究展开奠定了基础,指明了研究方向。2.研究了经典三节点结构的单中继系统空时预编码的联合设计问题。首先,建立基于空时预编码技术的系统模型,并讨论了MIMO相关信道的建模问题,得出了基于中继系统的矩生成函数,在此基础上,推导出采用空时编码和预编码设计的中继系统误码率的表达式。以误码率最小化为目标,在源节点和中继节点各自发送功率的约束下,建立统计信道信息下预编码矩阵的联合设计问题。考虑到该问题实现的复杂性,提出了求解原问题的两步实现方案:第一步先确定预编码矩阵的最优方向;第二步考虑每个方向上最优化的功率分配。并在发送接收均相关以及仅发送相关两种典型的通信环境下,得出预编码矩阵的求解方法。理论分析和仿真结果相吻合,并与单空时预编码下的系统进行了性能比较,验证了联合方案的优越性。3.将单中继系统的联合设计问题扩展至多中继系统,并引入全新的选择准则。相比单中继系统,多中继系统具有更多的选择性,依据某种准则进行的单个中继选择系统,在一定的条件下,依然能获得多中继系统的满分集增益。推导了基于对数似然比准则的中继选择方案,设计出基于完备和不完备信道信息下的联合预编码矩阵,联合设计问题分别以接收信噪比最大化和误码率最小化为目标,通过目标函数的单调性等性质,将矩阵设计问题分步求解。推导分析了基于对数似然比准则的选择系统的误码率闭式表达式,证明了该准则下系统误码率达到最小。仿真结果揭示了对数似然比准则相比信噪比准则,在误码性能方面具有较大的优越性。4.推导了基于对数似然比准则的多中继选择的系统方案。在可利用多个中继的通信环境下,多中继的选择往往比单中继的选择获得更好的误码性能。依据对数似然比准则,对选择中继子集的方案进行了阐述,并设计了选择步骤和合并方法。在完备和不完备两种不同的场景下,将对数似然比准则与信噪比准则在待选中继数、天线相关性和选择中继数目等参数不同时进行了比较,并与单空时编码、单预编码的系统性能进行了比较,仿真表明均获得较好的误码性能。5.研究了联合中继和天线选择在空时预编码系统的性能。多天线配置的多中继通信系统,采用联合选择方法,既能降低成本,又能获取分集增益。提出了两种天线选择方案:方案一为基于两阶段的对数似然比/信噪比选择准则,中继根据目的端反馈回的总对数似然比/信噪比信息,选择最优接收天线,目的端选择最佳中继进行接收。方案二为基于单阶段的对数似然比/信噪比选择准则,中继根据源-中继的对数似然比/信噪比选择接收天线,目的端选择方案与方案一相同。推导了联合中继和天线选择系统,接收信噪比的概率密度函数、中断概率和误码率等性能。仿真结果表明,两阶段与单阶段的天线选择方案,在接收天线数目较少时,系统性能相当接近;对数似然比准则在中继数目较少时,亦能获得较好的误码性能。