虽然正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)技术在现代通信系统中占据主要地位,但是随着物联网和智慧城市等产业的快速发展,OFDM技术在频谱利用率、用户体验速率和流量密度等方面都面临巨大的挑战。滤波器组多载波技术(Filter Bank Multicarrier,FBMC)利用时频特性良好的原型滤波器获得了更高的频谱利用率和更小的带外泄露,且频谱灵活性更高。然而FBMC系统为了保证传输效率使用的偏移正交幅度调制(Offset Orthogonal Amplitude Modulation,OQAM)技术,放宽了子载波正交的条件,导致系统会产生固有干扰,从而使得系统的信道估计和均衡面临巨大的挑战。论文主要研究OQAM/FBMC系统中信道估计与均衡技术。首先,论文对OFDM系统的基本原理进行了概述,分析了其滤波器组的基本特性;详细描述了FBMC系统的基本原理和OQAM调制解调技术;介绍了无线信道传输特性以及无线信道对OQAM/FBMC系统的影响。然后,针对OQAM/FBMC系统的信道估计技术,论文主要从系统信道估计的数学模型、导频结构和现有的信道估计算法对固有干扰的处理方式等方面进行深入研究。论文首先对基于块状导频的成对导频法(Pairs of Pilots,POP)和干扰近似法(Interference Approximation Method,IAM)进行了详细的理论分析。紧接着理论推导并分析了平滑滤波处理后的信噪比增益公式,针对该算法的缺陷提出了一种基于迭代预处理的信道估计算法。该算法依据子载波之间的相关性对连续子载波进行迭代平滑滤波,随后将该算法与平滑滤波算法进行对比,定量分析了该算法的信噪比处理增益和复杂度,并基于POP法进行了性能仿真验证。其次对基于散状导频的辅助导频(Auxiliary Pilot,AP)法和修正干扰近似法(Modified Interference Approximation Method,MIMA)进行了详细的理论分析和仿真验证,紧接着针对信道快衰落场景,对一种现有的迭代干扰消除算法进行了优化,优化后的算法在进行迭代干扰计算之前通过次导频信息校准伪导频估计值,并利用校准后的估计值得到更为准确的次导频信道估计初始值,进而提高最终信道估计的准确度。仿真结果表明,该算法在快衰落信道下具有更好的信道估计性能。最后,论文对OQAM/FBMC系统的信道均衡技术进行了深入研究,主要涉及系统的解调数学模型、现有的线性均衡算法和迭代干扰消除均衡算法(Iterative Interference Cancellation Equalization,IIC),并对这些算法进行了理论分析和性能仿真验证,紧接着论文对IIC算法进行了改进,提出了一种MMSE-IR-IIC均衡算法。相比于IIC算法,该算法在进行发送符号预估计时考虑了对干扰和噪声的抑制,从而获得了更好的信道均衡效果。仿真结果表明,该算法相对于传统的IIC算法在均衡性能上有较大的提升。