在频谱资源日益匮乏而高速数据业务需求无限增长的现实下，通过增加天线数目来增大空间自由度、改善系统性能、提高频谱利用率已经成为无线通信领域中的研究重点。多输入多输出(Multiple-lnputMultiple-Output，MIMO)技术凭借其特有的复用、分集和干扰抑制等优点，成为当前乃至未来移动通信中的关键技术之一。同时，MIMO技术的研究是一项系统化的工程，涉及到的研究内容非常广泛，涵盖了信道建模、信道容量、信道参数估计、空时编/解码、天线选择/设计、联合收发信机设计等方方面面的研究。本文针对存在相关性的MIMO信道，对其信道容量和训练估计机制中的一些问题进行了深入的研究，主要内容和创新如下： 1.联合考虑了信道空域相关性、不同时延的多径间相关性和直射路径等因素，推导出了频率选择性莱斯相关信道的容量表达式和其在特定场景下的简化表达式，使得基于Kronecker相关模型的信道容量公式更为统一化。研究表明，在发射端未知信道信息时，空域相关和多径间相关以及信道直射分量的存在，都会恶化信道容量；当不存在多径间相关和信道直射分量时，频率选择性信道与平坦信道的各态历经容量相等，即多径数目的增加并不会带来信道容量的增加；对于只有前几径存在直射分量的频率选择性信道，多径数目的增加会降低直射分量的比例，从而有助于信道容量的增加。 2.证明了信道容量的增减和信道相关性的强弱之间所对应的函数关系，分析了信道相关性对于信道容量的(定性)影响。研究表明，当发射端未知信道信息而采用等功率传输时，信道容量是信道相关性的Schur-concave函数，即信道容量将随着信道相关性的增强而降低。然而，在低SNR区间，且发射端已知信道信息时，信道容量是信道相关性的Schur-convex函数，这表明，在低SNR区间，信道相关性对信道容量具有提升作用。 3.基于Kronecker平坦和频率选择性块衰落相关信道，采用时分复用的训练+数据模式和MMSE估计器，提出了具有最小均方估计误差的(时域)最优训练序列所应具有的统一结构。该训练序列的设计从时域出发，且不限定训练序列的长度，类似于一种空间滤波结构。研究表明，相比于正交训练序列，推导出的最优训练序列能够最大限度地利用已知的信道相关信息，提高信道估计的精度。证明了信道估计的均方误差是信道相关性的Schur-concave函数，即信道相关性的增强有助于降低信道估计误差。同时，分析还表明，满足信道估计可辨识性的训练序列长度取决于具体的信道相关强度。 4.基于最大化最差情况下的容量下界的思想，给出了块衰落时分复用训练模式下的训练和数据的最优功率分配比例，推导出了基于训练估计的MIMO相关信道的容量下界(和截止速率)，以及其在准静态信道时的极限值。研究表明，对于相关信道，使信道估计准确性和容量最大化之间实现最优折衷的训练序列长度不再等于发射天线数目，而是直接取决于信道的相关强度；信道相干时间的增长，有助于提高训练容量下界。 5.针对基于时分复用的训练估计模式下的MIMO传输系统的极限性能，理论证明并分析了训练容量在高SNR时的空间自由度和低SNR时的能量效率。研究表明，基于训练估计的MIMO系统在高SNR时可以提供的空间自由度是(1-K*t/Tc)K*t，其中K*t是发射端空域相关矩阵的秩、接收端空域相关矩阵的秩以及信道相干时间的一半这三者之间的最小值。低SNR时的分析表明，与理想情况下的相干通信(接收端已知完美的信道状态信息)和非相干通信(假定接收端未知信道状态信息且并不采用明确显式的信道估计)不同的是，当SNR低于某一临界值时，MIMO训练传输系统可靠通信所需的比特能量开始急剧上升并趋近于无穷大(即能量效率急剧下降)。此时，不再适合继续采用基于传统信号方式的训练估计传输机制，而可以通过采用脉冲式的Flash信号方式来将比特能量维持在一个可以接受的固定值上。研究还表明，信道相关性有助于提高低SNR时的传输能量效率，减少发射端所需的天线数目，降低Flash信号的脉冲幅度，从而有利于发射机的设计和实现。