近年来,作为深空探测的重要组成部分,邻近空间通信逐渐受到广泛关注,我国也因嫦娥计划和火星探测等任务对其开展了相关研究。由于深空信道环境的复杂性与时变性,通信系统的传输效率与质量往往会受到影响,因而在实际通信中设计一套兼有自适应技术和差错控制技术的系统具有十分重要的意义。本文在结合CCSDS邻近空间链路协议的基础上,对通信系统中的速率自适应方法和混合重传机制进行了详细的研究与实现,并将两者技术相结合与改进,既兼顾了协议应用,又提高了系统的传输性能。本文首先分析了邻近空间链路协议特点,在结合多速率处理与混合重传理论的基础上,对基于速率自适应和混合重传机制相结合的系统方案进行了总体分析与设计。然后对速率自适应技术从信噪比估计、多速率同步和速率自适应切换三方面展开分析与设计。通过对传统信噪比算法的对比分析,设计了一种基于数据拟合和平方信噪方差比联合估计的信噪比方案,并结合输入输出信噪比关系设计出速率切换准则。同时,对影响速率自适应性能的多速率同步算法进行了基于协议的分析设计,并利用可编程插值滤波器与匹配滤波器来实现不同速率的切换。接着对混合重传技术进行了分析设计,采用了基于卷积编码和退N帧ARQ相结合的实现方式。其中,对影响ARQ性能的关键参数进行分析与仿真,并给出了具体情况下滑动窗口长度和最大重传次数的取值建议。对于接收机存在相位模糊下的译码情况设计了一种基于帧同步的解模糊方案,该方案既充分利用了协议的特点,又具有兼容多种调制方式的优点。最后,本文将速率自适应与混合重传的两块内容进行了硬件电路的设计与实现,并通过软硬件结合的测试平台进行了系统化的测试,从而验证了本文设计的系统方案在协议与工程实现上的可行性与正确性。