随着移动卫星通信向宽带化的方向发展,人们对高速数据业务的需求呈爆炸性增长,多波束联合预编码技术也受到了航空航天界和科研学术界的广泛关注,该技术不仅能解决波束间的同频干扰问题,还能克服时变卫星信道导致的信号衰落问题,从而大幅提升系统传输效率和服务质量,是绿色宽带卫星通信研究的新方向。然而,现有研究工作都假定发送端能够获得精确的信道状态信息,却忽略了实际移动卫星通信中信道估计误差和反馈延迟的影响,极大地限制了预编码技术的应用。因此,如何解决上述问题,突破传统方法的局限,并运用相应优化方法来提升系统传输速率,已成为一个极其重要的研究方向,具有很高的研究价值。因此,本文在阴影-莱斯信道环境下,着重研究了多波束移动卫星通信系统中的预编码问题。首先,详细研究了多波束移动卫星通信系统模型。这里主要从链路传输特性、信道统计模型和前向链路模型三方面进行研究。首先,介绍了多径和阴影效应等链路传输特性;随后,在传统移动通信信道模型的基础上,进一步研究了莱斯阴影等经典卫星信道统计模型;最终,着重研究了系统前向链路模型和结构特点,并仿真分析了前向链路信道容量性能,为后续章节算法的研究搭建了仿真平台。接着,本文介绍了经典预编码方法的基础理论。首先对预编码的实施原理和技术分类进行了总体概述。其次,根据发射端对信号预处理的不同,分别研究了非线性和线性两类预编码方法。最终,分别在陆地和卫星移动通信环境下,从系统和速率、误码率两性能指标出发,仿真对比了各种算法的性能差异,并验证了莱斯系数﹑隔离度等参数对系统性能的影响。最后,着重了研究多波束移动卫星通信系统的开环预编码技术。针对现有预编码方法存在的信道信息反馈延迟问题,在阴影莱斯模型基础上,提出了一种基于开环信道估计的预编码方法,卫星端利用开环获取的部分信道信息实现多波束联合预编码,并导出了系统传输速率的闭合解析式。随后,为进一步消除波束间同频干扰和时变信道传输损耗,在系统总功率约束下,本文提出了最优功率分配算法。此外,为克服强干扰环境下系统性能恶化问题,提出了一种混合预编码方法,卫星发射机依据开环获得的慢时变用户位置信道信息和信道统计量信息,自适应地选择预编码或频率复用方法。最终,仿真结果表明,与传统的干扰抑制方法相比,所提方法不仅实现了更优的系统性能,还克服了传统方法的应用局限性。