在高速数据卫星通信系统中,传输信道的非线性是影响系统性能的重要因素。信道非线性的产生主要来源于:卫星通信系统射频端和卫星转发器上高功率放大器的非线性;信道的衰落和各种畸变引起的群时延失真。预失真技术和均衡技术是补偿信道非线性的有效措施。针对卫星信道的非线性补偿技术,本文主要取得以下成果:首先,回顾了高功率放大器的幅度-相位模型和正交模型;应用有限脉冲响应滤波器来建模信道的群时延失真:根据给定的群时延失真指标,利用公式法和频域采样法两种滤波器设计理论,得到线性群时延失真和抛物线群时延失真的滤波器系数,重点讨论设计参数选取对设计结果的影响。其次,针对16APSK星座优化,找到一种效率优化准则;针对高功率放大器的非线性,引入基于定点迭代方法的自适应基带预失真算法:将预失真器查找表最优值的求解看作非线性方程求根问题,利用压缩映射原理,将表项更新视为定点迭代问题,采用Steffensen加速技术提高算法迭代速度。接着,针对Volterra均衡器自适应过程收敛缓慢的缺点,应用变步长的频域LMS算法对Volterra均衡器的权系数进行自适应更新,以补偿功率放大器的非线性失真。与定步长时域算法相比,频域算法利用正交变换降低输入序列的相关性,同时动态地调整迭代步长提高均衡器的收敛速度。最后,结合恒模算法“打开”信道眼图的能力强;决策指向算法收敛速度快,稳态误差低;归一化LMS算法动态调整步长因子,提高收敛速度三方面的优势,建立了归一化的加权双模式盲均衡算法,以补偿信道的群时延失真。加权算法不需要在两种模式之间切换,降低了接收设备的复杂性,可以提高双模式算法的稳定性。