滤波器组多载波(FBMC)技术因具有灵活的资源分配、高的谱效率、较强的抗双选择性衰落的能力、较好的解决了高速率无线通信和复杂均衡接收技术之间的矛盾,已成为新一代宽带无线通信系统的关键技术之一。OFDM系统即是滤波器组多载波技术中选择矩形脉冲作为滤波器的一种特例,不过由于其选用时域矩形脉冲,虽然在时域具有良好局域化性质但频域却无限扩展,导致系统性能对频偏和相位噪声比较敏感,因此在某些场合并不适用,需要考虑性能更全面的滤波器组多载波技术。本文针对子带设计为宽子带,且子带进一步采用循环前缀结构分块的滤波器组多载波进行研究,这种系统具有灵活的资源分配能力、更低的谱泄漏、且与OFDM同样具有低复杂度的接收机等特点,特别适合异步通信、感知无线电等系统等。通过本论文的研究,给出了此类系统的基本实现方案。论文首先给出了无线衰落信道的模型及特点,由此引出了各种抗衡衰落环境的无线宽带传输系统,包括单载波及几种多载波系统。分析了OFDM、FMT等多载波系统的实现结构、基带等效模型以及它们的区别、联系和优缺点,并用FBMC系统模型进行了统一。OFDM只是FBMC多载波技术中原型脉冲为矩形的一种特例,并不适用于所有无线通信系统,由此引出了本文研究的FBMC系统:子带设计为互不重叠的宽子带,且其子带进一步采用单载波循环前缀(SCCP)结构设计,即SCCP-FBMC级联系统,这是全文的研究框架和基础。接着,论文从系统设计角度提出了两种改进FBMC系统性能的方法。具体来说,针对FBMC的原型脉冲,分析了其在FBMC中对系统干扰的影响,得出FBMC系统信干比主要取决于信道散射函数及收发脉冲构成的互模糊函数,并得到收发脉冲应具有的属性,据此属性提出一种根据信道变化而自适应调整原型脉冲的FBMC系统,并分析了相应的自适应设计方法、验证了设计的性能。另外从信号映射角度,提出了一种将三维信号映射应用到FBMC的宽子带系统,即SCCP子系统方法,并仿真了其应用于SCCP系统的性能,实验结果证明了方法的有效性和可行性。然后论文分析了SCCP子系统的信道估计问题。首先讨论了SCCP-FBMC级联系统的子带等效信道模型以及子系统等效为单载波频域均衡的子系统设计的条件。针对宽带无线大部分都为稀疏信道的特性,提出了在时频域对子带SCCP系统的稀疏信道估计的方法:对频域导频而言,提出了采用压缩感知的子带稀疏信道估计方法,并分析了系统模型、算法原理。这种方法可以在有效的提升信道估计性能的前提下,还可以降低对导频数量的要求,能较高的提升系统利用效率。针对时域训练符号,提出了一种基于噪声子空间的稀疏信道估计方法,此方法比GAIC等算法具有复杂度低、性能更好的特点。最后通过仿真验证了这两种方法的有效性和可行性。之后针对SCCP子系统的信号均衡检测技术进行了研究。文中详细分析总结了目前的SC-FDE系统的均衡检测技术,在研究采用噪声预测频域均衡的基础上,提出一种采用噪声预测的时域迭代均衡技术,算法具有与Turbo时域均衡类似的误码率性能,但却有更低的复杂度。为了进一步提高检测性能,还提出一种采用列表检测的均衡检测算法,算法用在常规均衡后。理论分析和仿真表明在合理选择参数下,可以在更低的复杂度下达到最大似然检测的性能。最后,论文针对多天线技术在SCCP-FBMC级联系统的应用可能进行了讨论。介绍了多天线技术及其在FBMC中的应用。讨论了两种在OFDM系统中广泛应用的循环延迟分集与Alamouti空时分组码在SCCP-FBMC级联系统的应用。论文具体的提出了各自的发射接收机结构、数据发送接收处理过程、各种参数的选取,最后通过仿真验证了这两种多天线技术在SCCP-FBMC级联系统的有效性和可行性。本文对SCCP-FBMC级联系统的应用进行了的研究,主要讨论了系统设计、接收机技术、多天线技术应用等问题。另外,本文讨论的子带信道估计及均衡检测技术虽然是针对FBMC的子系统,但是由于其子系统为SCCP系统,所以可以直接应用在单独采用这种技术的系统中。