空时编码以其卓越的抗信道衰落性能而成为下一代移动通信系统的关键技术之一。研究在频率和时间选择性信道中充分利用空时编码优势,以实现系统最大分集增益和高频带利用率,对下一代移动通信有重要的理论意义和应用价值。本论文研究多输入多输出(MIMO)宽带无线通信中的空时信号处理与信道估计技术,得到如下主要结果;第一,研究了适用于时变Doppler快衰落信道的全分集空频分组编码。基于时变信道Doppler基扩展模型和时频对偶特性,将非线性时变Doppler快衰落信道进行线性化变换处理,提出了时变Doppler衰落信道下的两种全分集空频编码方式,两种空频编码均实现了包括Doppler分集在内的系统全分集增益,适用于快衰落信道。其中第一种编码方式利用现有的线性空时码直接进行全分集级联空频循环编码,可有效对抗信道Doppler衰落,虽编码效率低于1,但实现起来相当简单;第二种编码方式利用矩阵分块方法对正交频分复用(OFDM)子载频分块,并按块进行空频复正交编码设计,实现了一般性MIMO系统中的空频多普勒OFDM编码,其相干解码误差只取决于子信道或信道块内相邻子载频间频率响应误差的大小,大大减少了时变Doppler衰落的影响,且在不增加系统传输冗余度的前提下有效地实现了系统全分集增益,有更高的频带利用率。对两种空频编码进行的性能仿真试验表明,它们均有很好的抗Doppler衰落性能。第二,基于信号星座尺寸大小及信道脉冲响应长度,对输入数据序列按单载波传输系统内在的最大分集特性进行分组,提出了基于信号星座的单载波全分集空时编码。该编码以单载波传输方式,将信道均衡与信号判决估计分开分别在时域和频域内进行,使OFDM系统中的IDFT变换和DFT变换只在通信系统某一端出现,大大简化了移动设备的硬件要求,具有同OFDM等效的低处理复杂度,同时消除或减弱了OFDM系统中固有的高峰均值比和易受频率偏移影响的缺点,且无需传统全分集空时编码的前端线性冗余预编码处理,可显著降低计算复杂度,有更高的系统频带利用率。第三,研究了适用于MIMO时变快衰落信道的单载波差分空频编码。基于空频复正交编码基方阵的概念,并利用其与复正交编码非方阵之间的关系,给出了一种适用于任意天线阵列下的时变快衰落信道单载波单分组差分空频编码。该编解码无需进行信道状态信息估计,且其编码传输只需经历一个分组传输周期而与发射天线数无关,大大减少了信道时变特性对差分编码传输的影响,能稳健可靠地实现高速率数据传输。最后,利用信息论中信息熵的观点及系统容量最小值最大定理,基于时变信道Doppler基扩展模型,提出了MIMO时变Doppler衰落信道下的最佳导频辅助序列设计准则及方案。该方案将信道估计参数与时不变Doppler基联系起来,实现了MIMO系统容量最小值最大意义上的最佳导频辅助信道估计性能,可明显降低信道估计计算复杂度,具有更低的系统误码率。此外,提出了一种基于导频空频复正交分组编码的空时频联合信道估计算法。利用空频复正交编码方式对已知的导频符号序列进行分组传输,在接收端由逆空频解码直接估算出各子信道频率响应状态信息,基于信道自相关矩阵的时频分解定理进行维纳滤波插值处理,最后形成空时频联合信道估计。这种算法无需进行传统MIMO分集信道估计的高阶矩阵求逆运算,明显降低了系统计算复杂度,且充分利用了信道时频自相关特性,有更稳健的信道估计性能。