多输入多输出(Multiple-Input Multiple-Output,MIMO)中继通信技术由于其广泛的覆盖范围,高传输速率以及能有效抵抗信道衰落,提高小区边缘用户服务质量等优势受到广泛关注。预编码技术作为一种能提高系统性能的自适应技术,目前已成为研究热点。在覆盖范围较充足的情况下,进行预编码矩阵设计时需考虑发射端和接收端的直传路径。此外,由于信道估计技术的局限性和天线之间的短距特性,需要考虑信道估计误差以及天线相关性。因此,本文重点针对存在直传路径的几种常见MIMO中继系统,研究了存在信道估计误差和天线相关性的非理想信道条件下的预编码算法。论文主要工作如下:1.针对存在直传路径的单用户MIMO中继系统,考虑天线相关及信道估计误差,根据最小均方误差(Minimum Mean-Squared Error,MMSE)准则,以发射端和中继端的功率为约束条件,提出了发射端、中继端和接收端预编码矩阵的联合优化设计算法。首先将接收端线性处理矩阵表示为维纳滤波器形式。通过将约束优化问题转为两个关于目标变量的子凸优化问题,继而分别利用梯度投影法和CVX工具箱来求解中继端和发射端的预编码矩阵,最终采用联合迭代法优化各个节点的预编码矩阵。仿真结果显示,所设计的预编码算法可以提高MIMO中继系统性能。2.在研究单用户MIMO中继系统的预编码算法的基础上,针对存在直传路径的多用户MIMO中继系统,考虑信道估计误差和天线相关性,以发射端和中继端的功率为约束条件,提出一种基于MMSE准则的联合预编码算法。发射端各个用户间服从独立分布可以优先确定发射端预编码矩阵,采用拉格朗日乘子法及KKT准则对约束优化问题进行转化,继而采用二分法求解中继端预编码矩阵表达式,接收端线性处理矩阵可以表示为维纳滤波器形式,最后对各个节点的矩阵联合迭代得到最优解。仿真结果验证了所提算法的有效性。3.针对存在直传路径的MIMO多中继系统,综合考虑各个节点天线间的相关性及信道估计误差,提出一种基于MMSE准则的预编码算法。接收端线性处理矩阵可以表示为维纳滤波器形式,通过把接收端线性处理矩阵表达式代入约束优化函数,将原约束优化函数转化为仅含有发射端和中继端的预编码矩阵的两个子凸优化问题,发射端预编码矩阵的求解问题可转化为SDP半正定规划问题,利用内点法求解。发射端预编码矩阵采用拉格朗日极值法求解。最后通过联合迭代优化发射端预编码矩阵和中继端预编码矩阵。仿真结果显示,与未能综合考虑各个节点的预编码算法相比,所提算法可进一步改善系统误比特率(Bit Error Rate,BER)性能。