卫星通信与地面通信存在着很大的不同，主要体现为长往返时延和高信道误码率，需要采用与地面不同的传输控制协议。目前自适应传输控制技术在地面通信中已经有了较多的研究，而在卫星通信中的研究还较少。根据卫星通信的特点，结合无速率码和HARQ技术，设计一个适用于卫星通信的自适应传输控制协议，对提高卫星通信系统频谱效率和系统吞吐率具有很重要的意义。本文着重研究了卫星通信中自适应传输控制协议的设计，分析了协议设计中最关键的速率自适应问题，提出了一个基于统计的新包大小控制策略，并针对在卫星通信中使用选择重传机制带来的大容量缓存问题设计了有效的缓存管理方案。首先，本文分析了无速率码和HARQ技术的基本原理，以及将两者结合起来进行自适应传输控制的方法；其次，针对卫星通信的特点，在无速率码和HARQ技术的基础上，分别从帧长设计、子包封装机制、重传模式设计、反馈方式设计等方面，研究并设计了一个适用于卫星通信的自适应传输控制协议；再次，针对卫星通信的特点和提出的传输控制协议，研究并设计了一个基于统计的新包大小控制策略，并对新包大小的“乒乓”切换问题进行了优化；最后，针对在卫星通信中使用无速率码和选择重传机制存在的大容量缓存管理问题，分别从发送端和接收端的主要限制出发，分析并设计了相应的缓存管理方案。本文设计的自适应传输控制协议，适用于卫星通信场景，使用基于统计的新包大小控制策略后，可以实现较高的频谱效率和系统吞吐率，并且具有较低的平均发送次数和累积解码复杂度。而本文设计的缓存管理方案，有效地降低了发送端和接收端的缓存容量需求及内存访问速度要求，避免了因内存访问带宽成为系统速度瓶颈而降低系统实际吞吐率的情况。