在下一代宽带无线通信系统(4G)中，结合正交频分复用(OFDM)的多输入多输出(MIMO)技术被认为是支持高速率和高性能传输的最有前途的关键技术之一。特别是对空间、时间和频率域同时进行编码的MIMO多天线技术，能在MIMO—OFDM系统的复杂信道环境下提供更可靠和更稳健的信息传输。本文研究了MIMO-OFDM系统中抗衰落的分集技术，包括系统的分集度分析，高速率全分集空时码的设计以及协作网络中的空时码的研究。论文的主要贡献如下： 1.分析了存在空间、时间频率相关的一般情况下MIMO-OFDM系统中空时频码的虽大可达分集度。针对在发射端和接收端都存在空间相关的频率选择性且时变衰落的MIMO信道，分析了MIMO-OFDM系统中空时频码的性能，基于成对错误概率(PEP)准则，发现所能获得的分集度不仅与发射端相关矩阵和接收端相关矩阵有关，而且还与信道的时间相关矩阵、频率相关矩阵有关。该结论具有一般性，可以为全分集空时频码的设计提供理论指导意义。 2.分别提出了相邻子载波上信道传输函数为相等信道增益和不相等信道增益情况下的空频码的单符号编解码方法。先给出了2发天线系统中相邻子载波信道传输函数为不相等信道增益时空频码的改进单符号解码方法。并把空频分组码推广到4发天线系统，还给出了一种适合4发天线系统的空频分组码的改进编解码方法。在相邻子载波上信道传输函数分别为相等信道增益和不相等信道增益情况下所给出的编解码方法能完全消除符号间干扰，而且不以牺牲分集增益为代价。在接收端，利用对角矩阵求逆的简单性，极大地减少了计算复杂度。在快时变环境，性能效果接近极大似然解码的效果。 3.提出了能达到MIMO-OFDM系统所能达到的最大分集度，且传输速率尽可能高的空时频码的设计方法。为了获得存在多径衰落时MIMO—OFDM系统的高速率传输方案，提出了一种基于线性星座预编码和坐标交织的速率为1的简单空时频分组码，该传输方案通过线性星座预编码来获得频率分集增益，通过坐标交织来获得传输速率为1，且能改善系统的误码性能；为了利用频率选择性准静态块衰落MIMO-OFDM系统中的完全分集度，利用代数空时码和Fladamard变换构造的空时频码在4根发射天线系统中的传输速率能达到2. 4.提出了在放大转发中继模式(AF)和解码转发中继模式(DF)下分布式空时码的单符号编解码方法以及自适应功率调整算法。针对协作通信系统，在发射端和接收端的单天线用户共享彼此的天线，相互协作组成虚拟的MIMO系统，并进行联合空时编码。利用正交空时分组码的性质，将联合的极大似然向量解码转化为单符号标量解码。同时分别提出了在放大转发中继模式下和解码转发中继模式下的单符号解码算法。在接收端通过噪声平滑处理，能进一步提高系统性能。如果适当调整目标信号功率和协作信号功率能获得更大的性能提升，且在放大转发中继模式下的空时码性能接近在解码转发中继模式下的空时码性能。因此综合考虑参与协作用户终端的硬件复杂度和算法复杂度、性能之间的关系，自适应调整功率分配因子的放大转发(AF)中继模式下的空时码不啻为一种替代解码转发(DF)中继模式下空时码的选择。 5.提出了在采用放大转发中继协议的无线中继网络中迹正交空时码的设计方法及其性能分析。为了提高M个中继采用放大转发协议的无线中继网络的性能，在中继端采用迹正交的空时码，并利用调制矩阵的性质，给出了等效复合信道的传输形式。基于最小化条件成对错误概率准则，给出了在已知信道质量信息(CQI)和其统计信息的不同情形下的性能分析。仿真结果表明，完整的信道质量信息对分集度的影响不大，但信道信息的缺失不仅会带来性能上的损失，还会影响到该方案的分集度。 6.提出了多个中继节点参与协作的中继增强型的协作网络的最大流矩阵算法。针对配置多个中继节点的协作网络，提出了网络最大流的矩阵算法。当中继端的一些中继节点相互协作并组成一个虚拟整体时，能改变该路径上的等效流量和网络的路由，从而改变整个网络的最大流。当某些中继节点不能正常工作时，通过选择一些等效路由来替代，从而使系统具有较好的抗毁性。仿真结果表明，通过适当地在中继端对中继节点进行分组，能增加网络的最大流。同时，使得网络具有良好的稳健性。