正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）技术具有频谱效率高、实现复杂度低、抗多径能力强等优点,广泛应用于数字视频广播、数字音频广播等系统。然而,OFDM也存在着带外泄露高、对同步要求严格等问题,难以适应未来新场景。为了满足未来移动设备海量连接的需求,国际电信联盟对空口接入波形提出了更为严苛的要求,如更高的带宽利用率以及更灵活的多业务处理能力等。基于滤波器组的正交频分复用（Filter Bank OFDM,FB-OFDM）作为一种很有前途的波形,适用于以后的多业务系统。然而,和传统多载波一样,FB-OFDM面临着高峰均功率比（Peak-to-Average Power Ratio,PAPR）问题。因此,研究FB-OFDM系统的PAPR抑制技术具有重要意义。本文主要围绕FB-OFDM信号峰均比的问题展开研究。首先,本文介绍了FB-OFDM系统的基本原理,首次提出了FB-OFDM收发端的矩阵形式表达式。这种将FB-OFDM调制解调在频域中描述为卷积的新方法,降低了实现的复杂性,即采用多项滤波结构来简化接收与发射端的实现复杂度。此外,对FB-OFDM进行性能分析,结果表明FB-OFDM能够有效降低带外泄漏并且能够较好地实现异步传输。其次,针对FB-OFDM存在的高峰均比问题,本文首次给出了FB-OFDM发送信号PAPR的互补累积分布函数表达式,并提出了一种改进的增强型对数压扩（Enhanced Log Companding Technique,ELCT）算法。给定一定阈值,小信号保持不变,大信号采用ELCT算法进行压缩,选择合适的参数,在兼顾误码率性能的情况下,降低系统的PAPR。此外,通过在发送端引入预编码矩阵来降低输入序列的自相关,在降低系统PAPR的同时保持误码率性能。主要研究了离散傅里叶变换（Discrete Fourier Transform,DFT）矩阵、沃尔什-哈达玛变换矩阵以及离散哈特莱变换矩阵对FB-OFDM系统PAPR和BER的影响。并且为了更好地降低峰均比,在ELCT算法的基础上,引入DFT预编码矩阵,提出了基于离散傅里叶变换的对数压扩（DLCT）算法。仿真结果表明,DLCT算法具有更好的峰均比抑制性能。最后,针对传统频域赋形（Frequency Domain Spectrum Shaping,FDSS）算法降低PAPR性能较差的问题,对FB-OFDM系统中做针对性创新,考虑相位因子的影响,提出了一种改进的CRFDSS算法来降低FB-OFDM系统的PAPR。并且考虑对FB-OFDM系统滤波器进行优化,设计了一种新的DRRC-CUT滤波器,结合提出的CRFDSS算法,进一步降低了系统的PAPR。