为了应对未来爆炸性的移动数据流量增长、海量的设备连接、不断涌现的各类新业务和应用场景,第五代移动通信(5G)系统应运而生。物联网和机器通信(MTC)会在5G通信业务中占有重要地位。5G通信的新需求对物理层架构提出了新的要求,其中尤为重要的是对抗载波频率偏移和定时偏差的鲁棒性的要求,考虑到LTE机制和CP-OFDM的局限性,新空口技术尤其是新型多载波传输方案成为5G物理层设计的关键技术,也是当前5G相关组织的研究热点。本文主要研究5G移动通信系统中的通用滤波多载波传输方案,主要工作如下:首先,对当今学术界研究较多的几种5G候选多载波传输方案进行调研,包括滤波器组多载波、广义频分复用以及通用滤波多载波,对这几种多载波传输方案的原理,收发机结构、性能优势以及实现复杂度等进行了比较分析,最后选取通用滤波多载波(UFMC)作为本文的研究重点。随后,对UFMC抗频偏和抗时偏性能进行了研究,通过仿真验证了 UFMC在抗频偏和抗时偏方面相对OFDM的性能优势,是合适的5G候选传输方案。建立了频偏存在条件下的UFMC系统模型进行抗频偏性能分析,仿真表明,无论是在高斯信道下还是在瑞利信道下,无论是理想信道均衡还是基于信道估计的均衡,UFMC系统性能都优于OFDM系统,并且UFMC系统表现出对频偏很强的鲁棒性。此外建立了存在准时间同步业务的多用户上行链路UFMC系统模型进行抗定时偏差性能分析,仿真表明,UFMC系统具有均方误差性能关于定时偏差的对称性质,能更好地支持5G通信中的开环同步和自动时间补偿机制,并且UFMC对所有范围的定时误差的鲁棒性更强,在大多数定时偏差的情况下性能优于OFDM,是适合5G空口技术的多载波传输方案。此外,设计了一种基于UFMC传输方案的MIMO收发机架构以及波束成形方案,该方案有较好的误符号率性能并能保留UFMC在抗频偏方面相对于OFDM的性能优势。UFMC是广受认可的5G候选多载波传输方案之一,但如何将UFMC传输方案与MIMO技术相结合,则是目前学术界中研究较少的内容。本文设计了一种基于UFMC传输方案的MIMO收发机架构以及波束成形方案,通过数学推导证明该方案能正确恢复发送端数据,通过仿真证明该架构有较好的误符号率性能,并且保留了 UFMC在抗频偏方面相对于OFDM的性能优势。最后,针对UFMC系统提出基于等效导频的信道估计算法,分别在慢衰落信道和快衰落信道下设计了基于块状导频的信道估计算法和基于梳状导频的信道估计算法并取得了和OFDM 一致的信道估计性能,从而确保UFMC系统在5G移动通信场景中的应用。考虑到UFMC的收发机结构与OFDM不同,UFMC系统中的信道估计模块应该如何设计,能否实现良好的性能。首先在慢衰落信道下设计基于块状导频的UFMC信道估计,分别提出了基于等效导频和基于等效信道的信道估计和数据均衡算法,仿真证明基于等效导频的信道估计算法性能更好,并且所有的UFMC信道估计算法里,等效导频和频域降噪滑动窗结合的算法性能最优,接近理想信道均衡性能。在此基础上进一步在快衰落信道下设计基于梳状导频的UFMC信道估计模块,设计了两种导频模式,基于频域全导频时域插值的信道估计性能较好但导频资源消耗多,时域和频域二维插值的信道估计导频资源消耗少但性能略差,可以根据实际系统的需要进行选择,无论哪种导频模式,UFMC系统的SER性能都和OFDM系统的SER性能一致,从而确保UFMC在5G移动通信场景中的应用。