滤波器组多载波（Filter Bank Multi-Carrier,FBMC）是面向未来移动通信的一种波形调制技术，其在正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）调制的基础上在每个子载波上引入原型滤波器进行符号脉冲塑形，大幅降低信号的带外辐射以减少对相邻频段的干扰，从而提高无线频谱利用的灵活度。因此，FBMC在异步多用户通信（如大规模物联网）及碎片化频谱利用（如认知无线电）等场景下具有潜在的应用优势。为提高频谱利用率，FBMC通常采用偏移正交幅度调制（Offset Quadrature Amplitude Modulation，OQAM）以保持最高的时频平面数据符号密度以及良好的信号时频聚焦特性，而将系统的正交性放宽为仅在实数域上正交。由于FBMC-OQAM系统的特点，其也存在许多需要解决和研究的问题，本文围绕FBMC-OQAM系统中的误比特率性能分析、同步及信道估计方法、以及低峰均比系统改进方案等部分关键技术开展研究。
　　对于一种波形调制技术，在多径信道场景下的基础误比特率一直是评价其性能的重要指标。为完成误比特率的快速准确分析，本文首先针对FBMC-OQAM的误比特率解析计算方法进行研究。基于OFDM和FBMC-OQAM的统一基带系统模型，将接收信号的概率分布问题转换为求解高斯二次型变量的条件概率，提出一种适用于莱斯和瑞利选择性衰落信道的接收数据符号概率分布计算方法。通过分析Gray映射编码中符号判决与误比特率之间的关系，总结推导出高阶星座调制信号的误比特率表达式。利用计算机数值仿真验证了解析计算方法的准确性。
　　在通信系统中，一些关键信号处理技术如同步及信道估计等是影响系统性能的重要因素。在FBMC-OQAM系统中，尤其是连续数据传输模式下，原型滤波器的拖尾引起符号间的交叠，因此同步序列的设计需要考虑多个FBMC符号的影响，增加了设计的复杂度并可能降低频谱效率。并且由于OQAM调制的实正交特性，在接收信号中存在固有的虚部干扰，这对频域信道系数的估计带来了困难。
　　针对连续数据传输模式下的FBMC-OQAM同步问题，本文利用OQAM调制信号的共轭对称特性，提出了一种高频谱效率的同步方法。首先设计了一种序列样式，利用前后FBMC符号的特定数据数值关系消除符号脉冲塑形和符号交叠对OQAM信号共轭对称性的破坏，生成共轭对称的时域发送序列。在此基础上，设计了满足该共轭对称特性的类Zadoff-Chu序列作为同步训练序列完成时频同步。利用同步序列的称性，提出了一种自相关和互相关联合检测的定时同步算法，适用于存在较大载波频偏的场景并实现了较高的检测信噪比。
　　对于信道估计问题，目前方案中一般将信道估计训练序列与同步序列分别单独进行设计，导致频谱资源开销的增加。为提高频谱利用率，本文提出了一种FBMC-OQAM联合符号定时及信道估计方法。设计了一种高频谱效率的训练序列样式，利用一个导频符号和两个辅助数据符号，生成时域共轭对称的序列，并且可以使得在导频点处来自周围数据符号的固有虚部干扰相互抵消。因此，频域信道系数可以直接通过导频进行估计，同时符号定时可以通过基于共轭对称特性的自相关定时检测算法完成，并且具有良好的性能。此外，针对突发数据传输模式，设计了一种起始信号拖尾截断方案，在提高频谱利用率及减小传输时延的同时保持了良好的信号正交性和较低的带外辐射水平。
　　作为一种多载波技术，FBMC-OQAM同样面临较为严重的信号峰均比过高的问题。由于OQAM需要将复数数据的实虚部进行分离的预处理操作，直接地将离散傅里叶变换（Discrete Fourier Transform，DFT）扩展编码与OQAM调制相结合无法完全实现单载波信号的峰均比特性，针对该问题，本文提出一种基于数据共轭对称映射的DFT扩展编码方案，避免了OQAM预处理操作，可以进一步降低信号的峰均比。在此基础上，通过计算机仿真分析了FBMC-OQAM系统中原型滤波器对发射信号峰均比的影响，仿真结果表明原型滤波器的选取需要折中考虑信号峰均比和带外辐射水平。此外，相比传统FBMC-OQAM，映射DFT扩展编码的系统方案在多径信道下具有一定的频率分集的效果，可以有效降低低阶星座调制情况下的系统误比特率。