本文讨论了深空通信中影响链路性能的因素,通过构建中继链路来提高通信质量,同时根据深空通信的特点分析了传统传输层的协议的局限性,并对其改进,为进一步研究深空通信提供了参考。传输距离遥远以及复杂的通信环境是影响深空通信性能的主要因素。因此,根据地球以及被探测行星的特性以及未来深空通信发展的趋势,建立三跳中继下行链路,分析了每跳的距离以及载波频率的选择对链路信噪比的影响。通过仿真分析,采用静止轨道卫星作为中继可以获得较好的信噪比,同时降低了系统的复杂度以及成本。三跳选用不同的频率,解决了通信距离引起的损耗和大气衰减对载频选择的矛盾。与传统的单跳链路和基于GEO卫星的两跳异频链路相比,基于静止轨道卫星的异频三跳中继链路的信噪比明显提高。与地面通信相比,三跳中继链路的信噪比仍然较低,从而带来较高的误码率,传统的TCP协议不适用于深空通信。为了保证数据的可靠传输,本文分析了CCSDS扩展的TCP-SNACK协议的性能,而且根据TCP-SNACK的弊端,将协议与喷泉码编码结合构建改进协议rUDP,仿真分析了rUDP协议的传输时延及传输效率,并与TCP-SNACK协议对比。结果表明在大时延、高误码率的深空通信中,rUDP协议保证数据可靠传输,而且大大缩短文件传输的时延,对其应用提供了一定的参考价值。