随着第五代移动通信（The Fifth Generation,5G）技术商用,正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）技术广泛应用于各类通信场景中。5G微蜂窝通信设计中仍然存在多径衰落、阴影衰落以及大气衰落,给OFDM系统下的放大器效率带来了新的挑战。但由于OFDM高峰均比（Peak-to-Average Power,PAPR）特性,非线性失真严重制约了多载波波形性能。随着非线性失真下多载波波形及其相关的线性化技术研究,业界提出了适用于不同系统下的非线性放大器模型和OFDM波形改进方法。本文研究了面向非线性失真的波形性能、波形分析和波形改进,从高功率放大器（High Power Amplifier,HPA）建模、多载波波形参数与非线性失真程度、低PAPR波形改进三方面进行了研究。具体内容如下:首先,从幅频的输入输出关系出发,介绍经典HPA非线性模型,进行基于参数拟合的放大器模型转换。综合考虑不同放大器在高频多子载波的通信场景,分析传输失真衡量指标和传输波形衡量指标相关性。同时,研究不同调制方式对传输失真衡量指标反应传输性能准确度的影响。其次,在研究高轨卫星放大器和群时延拟合方案的基础上,衡量实际高轨卫星信道下单载波和多载波性能,并针对多载波信号抵抗群时延失真能力较差这一弱势,通过联合索引调制和噪声规划算法的低峰均比波形设计,有效改善多载波非线性放大器的系统性能。最后,为进一步改善抗非线性失真的恒包络OFDM（Constant Envelope OFDM,CE-OFDM）波形,运用预处理算法并设计基于索引调制的波形改善方案,有效缓解了CE-OFDM系统相位跳变以及传输效率较低的问题。针对解相位和最大似然解调性能差距较大的问题,本文进一步根据CE-OFDM的频域分析特性,提出了收端迭代检测算法,有效地扩大了CE-OFDM系统应用潜力。