移动通信系统持续向高速率、大容量和超宽带方向发展,随之产生的新技术所处理的信号都具有多载波、多电平、超高带宽及高峰均比等诸多特点,对所使用的射频发射机提出了巨大的挑战。一方面,大带宽信号激励下的发射机呈现出更强更深的非线性记忆特性。另一方面,射频发射机系统不可避免地会同时受到调制器I/Q支路不平衡、本振泄漏和功放非线性失真等非线性特性的影响,同时这些不同的非线性特性相互交叉作用,会严重降低通信系统的性能。因此,研究新型宽带高效线性发射机,使无线宽带传输射频前端在满足系统严格的线性等指标下高效率工作,是解决未来无线通信可靠传输的核心技术。针对上述要求,本文首先运用信号处理领域的压缩感知理论和自适应信号处理算法以及人工智能领域的机器学习理论,围绕宽带发射机非线性特性辨识及联合补偿的若干问题进行了深入的研究和具体的探讨。其次,为提升大带宽信号激励下的发射机线性和效率,提出了一种基于三输入联合模型的发射机联合补偿方案,充分提升了发射机联合补偿的失真抑制能力。本文主要工作和贡献如下:1、提出了一种基于压缩感知理论和自适应信号处理算法的自适应稀疏预失真器设计方法。针对传统的压缩感知功放模型简化算法固有的批处理操作模式,研究了压缩感知贪婪算法和自适应信号处理理论的融合方法,构建了一种宽带自适应稀疏预失真系统,并分别使用共轭梯度和随机梯度下降算法结合子空间追踪贪婪算法设计了稀疏自适应参数更新算法。仿真和实验结果表明,所提算法能够有效地构造只有少量参数的稀疏自适应预失真器,在预失真系统中功放的非线性失真和记忆效应可以自适应地获得补偿。与非稀疏全模型预失真技术和批处理模型删减方法的比较证明,所提算法具有更快的收敛速度,在提高了跟踪能力的同时降低了原始模型60%以上的参数个数,充分验证了所提自适应稀疏方法的优越性。2、提出了一种基于机器学习理论中稀疏主成分分析方法的功放模型简化方法。该方法可以在不损失信息的情况下对发射机行为模型进行线性变换实现数据矩阵降维,并通过对模型从高维到低维的变换实现模型系数的减少,同时引入稀疏算法来减少数据降维过程中的计算量。该方法一方面可以最大程度地保留原始模型结构的重要信息;另一方面,稀疏主成分分析方法通过对载荷向量的稀疏处理,大大降低了传统主成分分析方法中数据降维线性变换过程中的计算复杂度,其模型参数可降低到原始全模型的三分之一。仿真和实验结果表明,简化后的模型不仅具有与原始全模型相当的精度,同时具有更高的数值稳定性。3、为了提升射频发射机在建模时的精确度,提出了一种基于稀疏最小二乘支持向量机的发射机行为建模方法。该方法利用机器学习理论中的支持向量机模型取代传统的以Voltterra级数基础的功率放大器行为模型,提出了求解大规模数据训练的稀疏最小二乘支持向量机算法模型,并给出了稀疏最小二乘支持向量机模型的基本原理和详细的参数提取算法。该模型仅利用有限的训练样本进行训练,就可以对包含I/Q不平衡和直流偏置的发射机进行高精度行为建模。仿真和实验结果表明,该模型在综合考虑I/Q不平衡、直流偏置和功放非线性失真等因素的情况下可获得-36.76 dB的归一化均方误差,取得了比普通广义记忆多项式模型(-18.3dB)、共轭广义记忆多项式模型(-27.91 dB)、普通支持向量递归模型(-31.2 dB)和普通最小二乘支持向量机模型(-35.12 dB)更好的模型性能,并且其训练时间和运行时间比同类模型降低了90%以上。4、为了克服发射机射频损伤等各种非线性特性相互作用的影响,提出了由I/Q支路间的非线性频率相关交叉项和输入信号幅度所构成的三输入联合补偿模型。在这种新的模型结构中,所增加的发射机输入信号幅度项所生成的增强模型基集可以用来表征功放子模块的动态调幅/调幅(AM/AM)和调幅/调相(AM/PM)特性,其模型总体性能明显优于传统的I/Q不平衡模型。在此基础上,进一步使用鲁棒准牛顿基础的自适应贪婪算法进行模型参数在线删减,在不降低系统性能的同时模型系数可缩减到全模型的38%以下。仿真和实验结果表明,所构造的稀疏模型预失真器可以给出比其他常用的联合补偿模型更高的线性化性能,为直接变频发射机提供了非常高效和精度极高的线性化解决方案。