多输入多输出（multiple-input multiple-output，MIMO）通信技术通过利用空间复用增益、空间分集增益和天线阵列增益能够在不增加额外功率和带宽的前提下显著提升系统频谱效率和可靠性，已被公认为是未来蜂窝无线通信中实现高速率、高质量数据传输的核心技术之一。中继技术能够有效克服路径损耗和大尺度衰落影响，消除克服通信盲区，解决热点区域的通信瓶颈问题，快速恢复突发灾难地区的通信连通性等，它已经得到国内外学术界和企业界的广泛研究。中继增强型MIMO技术能够综合利用上述两种技术的优势进一步提高通信的有效性和可靠性。中继增强型MIMO技术中的空时资源分配与调度明显影响蜂窝无线通信的有效性和可靠性，所以本论文深入研究了“空时联合处理与资源调度”课题。然而，由于中继增强型MIMO系统包含前后两跳无线信道，同时信源和中继都配备多根天线，并且信源和中继受到不同的功率峰值约束，该系统中的空时联合处理和资源调度问题变得十分复杂。本论文着重对中继增强型MIMO系统中的联合功率分配、联合波束形成、分布式双向MIMO中继协作转发方案的最优设计、多个双向中继协作转发方案的分布式实行方式及其渐进最优性分析、基于格的物理层网络编码系统的中继协作方案设计以及多基站协作方案的标准化等问题进行了全面深入的研究，具体研究内容和主要贡献如下：　　 1.提出了基于可达速率最大化的中继增强型多输入多输出（multiple-inputmultiple-output，MIMO）系统中的联合功率分配方案。首先，基于系统可达速率最大化的准则建立了数学模型，并证明了相应的代价函数仅仅对于部分参数是凸函数，而对于全局参数是非凸函数。然后，通过推导系统可达速率函数的下界得到一个修正的代价函数，从而将非凸问题转化为一个联合凸优化问题，进而利用凸优化方法获得联合功率分配系数。最后，通过利用代价函数的部分凸性设计了一个迭代算法，可获得联合功率分配问题的最优解：为了加快该迭代算泫的收敛速度，设计了一个简化的迭代算法。　　 2.提出了基于均方误差最小化的中继增强型多输入多输出系统中的联合功率分配方案。首先，建立了相应的数学模型。其次，证明了相应的代价函数关于部分参数是凸函数而关于全局参数是非凸函数。最后，通过推导系统均方误差函数的上界，把非凸问题转换为联合凸优化问题，从而能够使用高效的凸优化方法获得联合功率分配系数。为了能够充分利用所有可用自由度，基于代价函数的部分凸性设计了迭代算法一，该算法用于求解最优功率分配系数；为了加快迭代算法一的收敛速度，利用不等式放大方法修正系统误差函数以获得更好的凸性，进而利用这些更好的凸性修正算法一，得到收敛速度更快的迭代算法二。分析表明，上述两个迭代算法的收敛性都得到了保证。计算机仿真表明，所提两个迭代算法获得了明显的性能增益，并且以很快的速度收敛。　　 3.研究了多个中继共同辅助多输入多输出系统的波束形成的联合优化设计。首先推导出接收信噪比的下界，并基于该下界建立了联合波束形成的数学模型；然后推导出所有中继的分布式波束形成的最优方案；最后设计出多天线信源的波束形成优化算法，并且设计出信源与中继之间的联合波束形成优化算法。所提方案充分利用系统的所有自由度，从而获得明显的性能增益。　　 4.针对双向中继转发协议，深入研究了并行多输入多输出中继系统中的协作转发方案最优设计。首先，基于均方误差（MMSE）最小化的准则，通过对系统上下行链路进行联合优化得到最优的并行MIMO中继协作转发方案，该方案能够获得系统最优MMSE性能；然后，基于该最优方案，分别针对移动用户和游移中继的通信场景，利用部分信道信息提出了鲁棒的多个双向中继协作转发方案。所提最优方案获得了明显的误码性能增益和可达速率增益，并且所设计的两个鲁棒性实现方案在实际通信场景中具有很好的信道适应性。　　 5.研究了多个双向中继协作传输的分布式实现方案及其渐进最优性分析。首先，通过高信噪比近似推导出系统均方误差函数的上界.并且利用该上界建立了相应的数学模型；其次，通过矩阵变换和公式推导得到该数学模型的最优解；最后得到相应的分布式实现方案。该方案避免了集中式处理方案中需要“每个中继必须获知整个系统的全部信道信息”这一苛刻条件，而只需要“每个中继获知各自的前后信道信息”就能达到多个双向中继协作转发的效果。所提方案不但避免了集中式处理所需要的中央控制器和很大的反馈开销，而且获得了明最明显性能增益；理论分析表明该方案具有渐进最优性。　　 6.针对基于格的物理层网络编码技术，利用整数优化理论设计出基于可达速率最大化的中继转发方案。首先，利用均方误差最小化准则推导出中继站最优的信道归整化因子，该因子使得中继站的等效噪声功率最小化：然后，基于该最优的信道归整化因子，利用混合整数规划理论优化出中继解调后的消息方程（the equation of messages）对应的整数系数，这些系数用于接收端的信号检测；计算机仿真实验表明，所提方案获得了明显的可达速率增益。　　 7.针对3GPP LTE-Advanced提案中的多个基站共同服务于一个用户的多点协作MIMO预编码技术，利用相位扰动理论提出了一种基于部分信道状态信息的多基站协作方案。该方案在严格遵守3GPP LTE-Advanced标准化要求的前提下，以同样的反馈开销和很低的实现复杂度获得了更大的可达速率和明显的中断概率性能增益。该方案得到国内IMT-Advanced LTE推进组的认可和通过。