FBMC技术因为较高的频谱利用率,带外衰减低等优点,受到越来越广泛的关注。而其与多输入多输出技术(MIMO)技术相结合的MIMO-FBMC系统,更是能增加整个系统的吞吐量,提高无线通信的传输速度,被认为是未来移动通信系统的备选方案之一。所以本文针对MIMO-FBMC系统的信道估计和均衡等关键技术展开研究。本章首先阐述FBMC系统的基本原理,分析了系统存在固有干扰的问题。并搭建了SISO和MIMO仿真平台,对比分析FBMC系统和OFDM系统的不同点。然后研究了基于导频的MIMO-FBMC系统的信道估计技术。针对导频结构设计,首先分析SISO-FBMC系统的ICM与IAM两种导频结构。其中在ICM中分析了 ICM-K结构和ICM-H结构,在IAM中分析了 IAM-R、IAM-C和E-IAM-C三种结构。接下来,研究MIMO-FBMC系统中的MIAM导频结构和降低导频开销的导频结构,然后仿真分析二者性能。在信道估计算法方面,本文首先分析传统信道估计算法的优缺点,然后提出了一种基于SVD的改进算法。该算法首先利用功率检测并逆向搜索得出有效信道时域估计结果,然后通过该结果的阶数截取SVD算法中特征值,并在ITU PA和ITU VA两种多径衰落模型下进行仿真分析验证了该算法在不同速度的移动环境下的优越性。最后,研究MIMO-FBMC系统的信道均衡算法。针对传统信道均衡算法不能很好地应用MIMO-FBMC系统中的问题,本文首先建立了MIMO-FBMC系统信道均衡数学模型,研究了信号传输特性。然后提出了一种基于SINR的信道均衡算法,将SINR作为目标函数且将其做最大化处理以求得最优的均衡器。最后,仿真验证了在结合本文提出的改进SVD算法的MIMO-FBMC系统中,该算法不仅在低速移动场景具有良好性能,而且同样适用于高速移动场景,体现出较强的鲁棒性和稳定性。