卫星网络作为我国天地一体化信息战略中的一个重要环节,一直是科研领域中的热门方向。由于卫星通信自身功率和带宽受限的特点,卫星网络的系统容量问题一直都是研究难点所在。要想发挥卫星网络在信息传输中的重要作用就必须尽可能的提高系统容量。本文在契合了网络编码这一千年之际出现的新的网络传输思想的基础上,首先将其引入到多波束的卫星系统中。网络编码使用编码的方式对传输的数据包进行编码处理,其最显著的特点就是可以提高传输的效率。由于卫星通信领域中与网络编码相结合的研究在国内尚处于初期阶段,本文的研究对象未能选择整个卫星通信网络系统而是将研究集中在单个多波束卫星的多播场景。本文对于此场景的容量优化问题做了深入的研究。本文首先简单的介绍了网络编码这一新兴概念,为后续的研究打下理论基础。然后将多波束卫星的多播场景抽象出来,建立了与实际较为接近的网络系统模型。由于随机线性网络编码工作在网络的数据链路层,它的直接操作对象是网络中传输的数据包。因此本文在系统模型的基础上给出了物理层SINR转换到网络丢包率的方法,并提出了与系统模型相吻合的包传输模型。接下来本文在参考了结合网络编码的传输策略的基础上,推导给出了上述模型下的结合网络编码传输策略的容量表达式,并列出了容量优化问题的经典解法。由于多波束场景中用户量大这一实际问题,指出了使用传统解法的困难之处。本文提出了运用随机化思想的求解算法并给出了仿真实验结果,验证了该算法的正确性与适用性。在此基础上,本文又提出了基于随机ACK反馈机制的传输策略,对传统策略进行了改进,提高了整个系统的传输性能。最后考虑到卫星信道的时变特性,必须寻找结合网络编码的自适应传输策略。本文借鉴了一阶AR卫星衰落信道模型在此基础上给出了包传输模型。同时,给出了在新的系统模型与传输模型下的系统容量分析表达式,并指出了其中优化的难点所在。然后本文在参考了一般对此问题的优化算法的基础上提出了基于最小时延的自适应优化算法,仿真表明本文提出的算法较一般的优化算法存在8%左右的系统容量增益。