近年来，协同通信的概念正在受到人们广泛的关注，它使得无线网络中的多用户(节点)间的协同分集成为可能，与此相关的协同MIMO技术也有望成为下一代无线协同通信系统的关键技术。协同中继是此类技术中发展最快的一个分支，它可使得无线系统在传输范围与端到端的数据传输速率之间进行折中。本文主要研究了协同中继中的各种低复杂度的编码策略设计与实现，并把环境自适应MIMO系统作为协同MIMO技术的特例加以研究。主要工作为如下5个部分。 1．基于中断概率分析，提出了一种基于协同分集的跨层设计，在多跳结构和每节点有限重传约束下，以适度降低频谱效率为代价来提高无信道编码系统的误码性能。通过引入相应的链路层控制策略，在块衰落信道下它可以利用中继节点获得协同分集和实现天线与能量共享。 2．多跳的结构直接带来了协同策略和路由等问题。针对没有反馈信道和有低速反馈信道等应用场合，论文分别提出一种基于中继级联和一种基于比特交织编码调制的编码协同策略。在第一种策略中，由于两个空间临近的中继以有线方式相连，它们的天线形成了一种特殊的虚拟阵。在采用自适应译码重传的第二种策略中，中继处不采用信道译码并且重传仅基于简单的信噪比门槛比较。该两种策略的提出增加了译码重传的灵活性。 3．在有限的射频资源的约束下，为了使点到点MIMO系统在无线信道中的空间选择性发生变化时可自适应地调整天线，论文分别提出了简化的发射天线和接收天线选择方案，它们与迭代接收机相联合可显著地改善系统的性能。在发射天线选择方案中，论文提出了一种迭代接收机，它可以利用前次迭代所得到的符号估计来获取候选星座点子集从而降低检测复杂度。该设计可以使得系统先进行发射天线选择，接着进行接收天线选择。因此，它使得实际MIMO系统便于在复杂度和性能之间达到折中。 4．研究了一种采用高级信号处理(如发射端的波束成型、接收端的干扰抵消)的两跳Ad hoc网中的协同MIMO技术。针对单个源与单个目的节点、各网络节点都采用多天线和每个链路可能存在空间相关的应用场景，论文提出了一种简化的中继节点选择方案。在固定的子集元素个数约束下，选择后所获得的中继子集中的节点可以利用发射端(第二跳)的信道状态信息进行各种线性波束成型。分析与仿真验证表明，在降低总网络资源消耗和改善网络传输范围的同时，与随机选择相比，该选择方案也有助于改善系统的频谱效率。5．针对两个相互干扰的源、一个中继和一个目的的应用场景，提出了频率选择性衰落信道下一种基于TDD-CDMA的多跳Ad hoe网的协同设计，它可以利用译码重传、干扰抵消以及功率控制来降低远近问题的影响。由于MMSE均衡与干扰抵消既可以在目的节点，也可以在中继中实现，所提出的方案可以在多址中继信道下达到网络的可扩展性与实现复杂度的一种折中。此外，该部分还对多址中继信道的频谱效率进行了理论分析。