无线MIMO技术被认为是实现未来高速宽带无线INTERNET接入网的关键技术之一，在第三代(3G)及三代以后(B3G)的移动通信系统中有着广阔的应用前景。然而，实现这一振奋人心的通信目标并非易事，常规单天线收发通信系统面临严峻挑战。即使采用常规发射分集或接收分集或智能天线技术已不足以解决新一代无线通信系统的大容量与高可靠性需求问题。在新一代的移动通信中，MIMO技术的应用使得系统的容量随发射和接收端的最小天线数目的增加而线性增加。然而，与常规单天线收发通信系统相比，MIMO通信系统中多天线的应用面临大量亟待研究的问题。本文以高技术研究发展计划中的“新型天线与分集技术”项目为契机，围绕新一代无线通信中的MIMO信道建模与信道估计这一主题，在他人研究工作的基础上，主要对无线MIMO信道建模、信号相关性分析、信道容量、信道估计等方面进行了系统而深入地研究。本文的研究内容与创新点可以分为五大部分：第一个部分分析一种研究二元对称离散信道平均互信息的新方法。研究在有干扰(噪声)无记忆信道和有记忆信道两种情况下，运用协同学的方法研究如何分配输入概率获取二元对称离散信道最大的平均互信息。第二个部分分析MIMO信道中信号的相关性，研究低空间相关性对MIMO信道性能的影响。首先，提出一种空间信道的传播模型，考虑由移动终端发射窄带信号被均匀线性阵的基站天线接收。在室内和室外两种传播环境，研究低空间相关性的性能，推导出天线单元接收多径衰落信号的空域相关系数的通用解析式。其次，在MIMO高斯信道最佳容量的基础上，推导出在Nakagami和Weibull衰落下采用分集技术的最佳信道容量的数学表达式，并且还得到采用切换合并分集技术Weibull衰落信道下的最佳切换门限。接着，在采用SC分集技术的情况下，首次利用Meijer’s G函数得到平均信噪比的不恒等统计相关的威布尔衰落信道容量和采用CFSK以及NMFSK两种数字调制方案的误码率的解析式，分析衰落系数、相关系数和平均信噪比不恒等统计的程度对信道容量和数字调制的影响。第三个部分分析MIMO无线信道建模。提出了一种包含小尺度衰落、相对的路径衰落和阴影衰落的室内MIMO信道模型，考虑室内人员的流动性，并对模型的性能进行了预测，拓展了室内MIMO无线衰落信道模型的研究。第四个部分分析MIMO无线信道估计方法。研究一种扩展的基于叠加训练序列的MIMO信道估计模型。利用最小二乘的方法，推导出信道估计误差的均方差、Cramer—Rao界以及信道容量的下限。同时，还仿真了Cramer—Rao界和均方差的信道容量的累积分布并同瑞利衰落信道进行比较。第五个部分综合分析空时扩展、叠加训练和空时编码。研究采用空时扩展、叠加训练和空时编码推导出存在干扰相关频率选择性MIMO信道的平均错误概率上限和最大似然估计的封闭表达式。本文对新一代无线通信中的MIMO信道建模与信道估计等的探索性研究表明，它们对于实现大容量与高可靠的无线通信具有重要意义。