无线通信高速发展的同时也带来了一系列的问题：用户数量的激增使无线频谱资源变得日益紧缺；无线终端的能量受限,迫切需要在保证通信质量的条件下降低传输能耗；无线通信的广播特性使得干扰成为另一大不可避免的问题。为了能够有效地解决上述一系列问题,中继技术作为一种关键增强型技术在下一代无线通信中得到了越来越多的关注和研究。一方面,中继技术的引入有效地减少了信道的衰落并且扩大了小区的覆盖范围,同时也在提高频谱效率、数据效率、能量效率等方面表现出显著的优势。另一方面,中继的引入为系统增加一条新的中继链路(通过中继进行转发的链路),结合直连链路(源节点到目的节点的链路)构成虚拟的多天线系统,带来空间分集增益。在协作中继系统中进一步引入差分编码,可以在未知信道信息的情况下获得系统可达的最大分集增益(空间分集、多径分集或多普勒分集)。本学位论文文主要从高速移动列车的切换策略、频率选择性衰落信道和双选择性衰落信道下的差分编码在中继系统中的应用等方面展开研究,并提出一些创新性的策略,主要研究内容概述如下：本文首先针对高移动无线通信系统的一个研究重点一一切换,提出一种基于接收端波束成形的多天线中继切换策略。高移动性以及信道的反馈时延导致反馈信息的不准确、系统性能的降低,因此希望设计一个能够避免信息反馈的切换机制。由于多天线通信系统能够增加无线链路的容量,本文结合多天线和波束成形技术来解决高速铁路系统中列车的越区切换问题。本文主要考虑列车在基站的公共区域行驶的切换问题,并且重点研究下行链路。切换中目标基站的选取,是通过最大化信干噪比实现的。信干噪比的计算依赖于信道信息,因此进一步给出一种基于最小均方误差的信道估计方法。在此基础上接收端利用多天线形成波束矢量,对信干噪比进行优化得到每个基站对应的最佳接收波束矢量,具有最大信干噪比的基站即为列车待连接的目标基站。数值仿真结果表明,基于接收端波束成形的多天线中继切换方案具有很好的鲁棒性。其次,研究了协作中继系统中频率选择性衰落信道下的差分空时编码算法。考虑最经典的三节点中继系统,同时考虑直连链路和中继链路的协作。在此系统中,采用两时隙的中继传输方式,即在第一时隙源节点只发送信息给中继节点,在第二时隙中继节点和源节点同时发送信息给目的节点。在高速移动的通信系统中,信道信息的估计往往很复杂,尤其是在快衰落信道中,因此本文给出一种差分空时编译码方案,在接收端未知信道信息情况下依然能够译出所需信号；同时针对于频率选择性衰落信道,提出了一种结合星座图抽取和子载波交织的编码方法——该方法不仅能够获得最大多径分集,也能大大减少译码复杂度。通过对系统分别采用不同中继转发策略的成对错误概率性能进行理论分析,得到系统均能够获得最大分集增益。仿真结果表明,与没有协作的中继系统相比,误码率性能得到了显著的提高。最后,进一步研究了双选择性衰落信道下协作中继系统中的差分编码方案,并结合信道参数的特性设计交织器的深度和长度用以对抗衰落引起的突发错误。无线通信中,多径传输引起的时延扩展和高移动性造成的多普勒扩展共同作用产生双选择性衰落。方面,接收端未知信道信息的情况下,信道信息的估计在很大程度上依赖于导频序列,降低了传输效率。在高速移动的列车中信道估计往往很复杂,而且估计出来的信道信息也是不准确或不及时的,尤其是在快衰落信道中。差分传输则能够避免信道信息的估计。另一方面,在衰落信道中,发送符号难免要经历深度衰落而发生突发错误,交织的目的是把受时间和频率衰落影响的连续错误符号尽可能的打乱,使各自经历独立的衰落从而达到对抗信道突发错误的目的并获得时间分集和频率分集。同时我们还提出时频二维联合的星座抽取编码方案,与交织器的设计相结合能使系统获得最大多径-多普勒联合分集增益且减少译码复杂度。仿真结果表明,和传统的时间和频率交织器相比,本文的方案在误码率性能上有更高的可靠性。