近年来,正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)作为经典的多载波调制方案,以其能高效利用频谱和抗频率选择性衰落及抗窄带干扰的优良性能而被广泛使用。但随着频谱资源的紧张、通信网络服务需求的多样化和灵活化,OFDM技术逐步显现出其制式不灵活、频偏敏感、带外泄露较大等缺点,研究新型多载波技术以适应现阶段通信网络的需求十分必要。滤波器组多载波技术(Filter Bank Multi-Carrier,,FBMC)通过对原型滤波器进行设计,降低系统带外能量泄漏,并且可灵活利用频谱碎片,是5G网络中的备选多载波调制方案之一,现已成为国内外研究热点。作为多载波调制系统,FBMC系统具有峰均比(Peak-to-Average Power Ratio,PAPR)较高的缺点。本文对FBMC系统中降低PAPR的算法进行研究,根据FBMC系统原理和架构,分析了FBMC系统的PAPR特性,并研究了部分传输序列算法(Patital Transmit Sequence,PTS)在FBMC系统中改善系统PAPR的性能。同时,利用FBMC系统符号间的时域重叠特性,对PTS算法进行优化,提出了一种可有效降低FBMC系统PAPR的算法:m PTS(modified-PTS)算法。该算法在选择最优相位旋转向量时,考虑当前符号与过去符号混叠之后的峰值,对传统的PTS算法作出改进。根据仿真结果,该方案与原始的PTS算法相比,更好的改善了FBMC系统的PAPR问题,但m PTS算法中生成的边带信息会产生新的PAPR问题,为此本文引入限幅算法降低边带信息的PAPR,提出了m PTS-限幅联合方案以降低系统的PAPR,并分析了该方案在FBMC系统中的性能。