多波束卫星利用多个点波束实现对整个服务区域的覆盖,可以通过频率复用有效增加卫星系统吞吐量,是近年来的研究热点。然而,该技术也面临着严重的同频干扰问题,预编码技术是一种可以有效抑制多波束卫星系统波束间干扰的关键技术。同时,采用固定点波束的多波束卫星系统面临的另一个挑战是固定的资源分配方式导致系统缺乏灵活性,而跳波束技术可以通过时隙分配提高灵活性,并可以通过集中星上功率提升星地链路质量,是目前的前沿技术。本文针对多波束卫星系统的两种应用技术——面向全频率复用的预编码技术,以及面向跳波束的多速率业务传输实现机制展开研究,取得主要研究成果如下:(1)研究对比了几种常用预编码算法在多波束卫星系统中的性能,并利用正则化迫零算法结合脏纸编码思想,得到预编码技术性能参考的上界。由于信道状态信息(Channel State Information,CSI)误差对卫星通信系统预编码性能具有较大影响,重点研究非理想CSI下线性预编码的设计问题,并设计基于奇异值分解的线性预编码优化设计算法。算法关键在于通过构建信道误差统计模型以及优化函数,推导其最优解得到优化预编码矩阵。仿真结果表明,基于该方案的系统传输吞吐量与非理想CSI下系统传输吞吐量相比有较大改善。(2)波束数量巨大时存在网关面临的高信号处理复杂度和馈电链路可提供带宽严重不足问题,最新的解决办法是利用多网关协作,但会带来额外的用户集群间干扰问题,给多波束预编码设计造成新的困难。论文在对比单、多网关预编码技术基础上,利用对角化预编码的思想,设计了一种适用于多网关多波束卫星系统的预编码算法。针对非理想CSI对多网关卫星系统性能造成的影响,提出多网关鲁棒预编码算法,利用信道误差统计模型结合最小均方误差准则优化算法,对多网关预编码算法进行优化,吞吐量仿真结果表明其性能的优越性。(3)采用跳波束技术时,网关要对来自不同速率用户的业务数据缓存,并根据分配时隙匹配相应的物理帧,对面向非均匀业务的混合速率业务传输缓冲机制提出了高可靠和高效要求。由于业务往往是非均匀的,针对不同用户对业务需求的不同,本文设计了一种复用形式的用户业务缓存机制,面对系统需求可对用户数量进行扩展,利用短空包结构提高传输效率,并且该设计方案资源消耗极少,使得系统在资源上可以满足多个用户的需求。经仿真和综合表明,设计模块能够按照跳波束系统的时隙分配为每个用户发送业务,并且当用户数量为4时占用FPGA(Field Programmable Gate Array)的LUT、寄存器资源分别为芯片总资源的0.54%、0.23%。