随着通信行业的不断演进,无线通信技术得到了快速发展,人们对通信技术的要求也变得越来越高。目前第四代(4G)移动通信系统正在大规模的使用过程中,在4G移动通信系统中,正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)技术是其物理层主要采用的多载波调制技术。但是在认知无线电、触觉互联网这些应用场景中,应用于4G通信系统中的OFDM便暴露出了明显的缺点,比如系统添加循环前缀从而降低了频谱效率、脉冲成形使用矩形脉冲从而带外辐射高等,这些缺点使得OFDM在下一代移动通信网络中不再是最具竞争力的空口波形技术,为克服上述缺点,以滤波器组多载波(FilterBank Multicarrier,FBMC)技术为代表的非正交多载波调制技术有望在5G移动通信系统中应用,因此FBMC成为本文所要研究的内容。本文的主要内容是FBMC系统中的关键技术研究。首先,介绍了 FBMC系统的基本原理,研究了 FBMC的系统模型,包括发送链路与接收链路的具体设计与实现方法。其次,在接收检测算法方面,本文将基于时域均衡的LMS算法应用到FBMC系统中,通过与其在OFDM系统中检测性能的对比分析,研究LMS算法应用于FBMC系统中接收检测性能的优劣及可行性。接着,在FBMC系统中的信道估计方面,本文研究了可以应用于FBMC系统中的有效且可靠的信道估计算法,传统的LS算法具有性能较差的劣势,MMSE算法性能较好但实现复杂度很高,因此本文在保证信道估计性能的基础上,重点针对于降低实现复杂度和提升频谱效率的问题,将压缩感知理论应用到信道估计中,实现了较好的性能。最后经过性能仿真,验证了 LMS算法应用于FBMC系统中的接收检测是可行的;同时证明了将基于压缩感知理论的信道估计算法应用于FBMC系统信道估计中的可行性和有效性。