近年来，一种基于4项加权分数傅立叶变换(4-Weighted Fractional FourierTransform,4-WFRFT)的混合载波(Hybrid Carrier, HC)调制系统被提出，该系统能同时传输包含单载波(Single Carrier, SC)和多载波(Multi-Carrier, MC)调制的混合载波信号，实现了时频域信号的同时传输，是真正融合了单载波与多载波特性的混合载波系统。由于基于4-WFRFT的混合载波信号包含有多载波调制的成分，当多个信号以同相叠加时，将可能产生比较大的瞬时峰值，因此混合载波调制系统也存在高峰值平均功率比(Peak to Average Power Ratio, PAPR)的问题。高PAPR会造成功率放大器(Power Amplifier, PA)放大信号的非线性失真、工作效率降低及信号覆盖范围缩小等影响；高PAPR也会要求数字模拟转换器(Digital-to-Analog Converter, DAC)的位数增加，这会增加DAC器件成本。因此，高PAPR始终是限制混合载波系统发展和应用的一个主要问题。本文将对抑制混合载波调制系统的PAPR相关问题进行研究。为了使混合载波离散时间信号的PAPR逼近连续时间信号的PAPR，本文提出了混合载波系统离散时间信号过采样方法，并且对过采样信号的平均功率与功率谱密度进行了分析。通过对混合载波系统过采样信号PAPR性能的仿真分析，得到在过采样率L=8时，基带离散时间信号能够精确地体现基带连续时间信号的PAPR性能。本文使用了削峰(Clipping)技术抑制混合载波系统PAPR。通过对混合载波削峰信号的仿真研究，可以得出削峰处理会给系统引入带内噪声和带外辐射，以系统BER性能降低为代价，削峰技术能够有效抑制不同变换阶数的混合载波系统PAPR。高峰值的混合载波信号进入PA非线性区域将引起非线性失真，这个过程也可以看做削峰处理的过程。因此，本文讨论削峰处理对系统性能的影响，对高峰值混合载波信号经过PA引起的非线性失真的研究也有借鉴作用。由于对混合载波信号做削峰处理会给系统带来带内噪声和带外辐射，为此本文将采用削峰滤波技术以滤除带外辐射。通过对削峰与削峰滤波信号的BER性能分析，得到当Eb/N0较大时，削峰滤波信号BER性能能够优于削峰信号，并且在相同削峰率时，混合载波中多载波比例越大，削峰滤波信号BER性能能够在越小的Eb/N0处开始优于削峰信号。通过对削峰滤波信号PAPR进行仿真分析，本文得出削峰滤波技术能够有效抑制混合载波系统PAPR与带外干扰的结论，但是滤波处理会使信号产生峰值再生现象。为了抑制由滤波引起的峰值再生现象，本文使用第一种多次削峰滤波技术与第二种多次削峰滤波技术抑制混合载波系统PAPR。通过仿真得到削峰滤波次数越多，系统PAPR越小，系统BER越大。与第一种多次削峰滤波技术相比，第二种多次削峰滤波技术能更有效地抑制系统PAPR，但是BER增大的更多。最后，本文对在混合载波系统中使用的削峰类技术的优缺点进行了比较总结。本文的研究结果对于在实际混合载波系统中使用削峰类技术联合其它相关技术抑制混合载波系统PAPR的研究有一定的借鉴作用，接下来研究工作的重点将放在混合载波系统接收端信号削峰噪声的消除，以提高系统BER性能。