在过去的几十年间,深空探测技术发展迅速,对太阳系内的行星天体探测取得了惊人的成果。地面深空探测站利用无线电跟踪测量技术,通过无线电链路实现对深空探测器的精确定轨和射电天文科学实验,是深空探测工程的关键技术之一。深空探测数字终端（Digital Back-end,DBE）系统和信号处理技术是深空探测无线电系统的重要组成,其性能直接决定深空探测系统的测量能力,具有重要的研究意义。本文针对深空探测DBE系统和信号处理技术展开了深入研究,重点研究了DBE系统设计、原子钟频率稳定度测量系统以及针对无线电跟踪测量技术的窄带参数估计处理和宽带干涉相关处理的算法与实现技术。本文首先讨论了深空探测应用对DBE系统的要求,简要介绍了设计所使用的硬件平台,针对深空探测应用设计了称为SEU-RSR-1G接收机的DBE系统。完成了包括GSps采样速率下的模数转换器（Analog to Digital Converter,ADC）接口、基于多相混频滤波结构的多通道GSps实时数字下变频（Digital Down Converter,DDC）单元和能够保证通道间严格同步的系统复位控制单元等算法与逻辑设计。SEU-RSR-1G接收机ADC采样频率为1.152 GHz,具有4路模拟中频输入通道、8路严格同步的基带通道和多种基带带宽和量化位数模式,支持宽窄带交替观测。实验室测试和实际深空探测器实验结果表明系统完全达到了设计要求。随后,本文研究了实时高精度深空探测窄带参数估计算法,提出了序贯解调频（Sequential De-chirp,Seq-De-chirp）算法,将下行窄带信号在短时近似为线性调频模型,通过基于实时频谱估计和DDC处理的自适应频率跟踪处理实现了信号检测与频率跟踪,降低了后续需要处理的数据量。序贯参数估计器通过解调频、加权频率差分处理和频谱细化（Spec-zooming）处理得到高精度的频率相位估计,有效地降低了调频率估计的运算量,且1秒积分时间下的频率估计精度优于5 mHz。文中使用“嫦娥3号”月球着陆器和“朱诺号”木星探测器的实测数据对算法进行了测试,频率估计误差分别为4.770mHz和81.610 mHz。在DBE系统和Seq-De-chirp算法研究的基础上,本文还设计了基于时频分析的高精度原子钟频率稳定度测量系统。该系统使用SEU-RSR-1G接收机实现了全数字式双混频结构,并在Seq-De-chirp算法研究的基础上提出了多级频谱细化算法,以可接受的运算量得到高精度频率相位估计,进而通过重叠阿伦方差计算实现频率稳定度测量。测试结果表明该系统千秒测量能力优于10^-16,可满足氢原子钟频率稳定度测量与分析的需要,观测站不再需要配备专用仪器即可实现对原子钟性能的测量分析。上述Seq-De-chirp算法通过软件在高性能计算机上完成窄带参数估计处理,但在许多应用场合,如星载或月基多普勒接收机等应用中,则需要结构紧凑的星载窄带参数估计处理系统。本文针对星载电子系统的性能和硬件平台的要求,实现了Seq-De-chirp算法和基带频率转换处理在拥有FPGA和ARM架构处理器的硬件平台上的硬件集成实现方法,完成了算法的硬件映射方案以及算法各模块的软硬件实现。针对关键Spec-zooming处理单元设计了折叠结构频域卷积Chirp-Z变换结构,采用了折叠技术、查表技术和块浮点算法,可节约超过70%的硬件资源。使用深空探测器的实测数据测试结果表明,硬件集成实现设计的频率估计结果与浮点精度运算相比差异不超过±0.5 mHz,大部分相位估计结果差异不超过±2×10^-5周。硬件集成实现处理1秒积分时间200 kHz带宽的基带信号仅需2.2 ms,较软件实现加速了28倍,处理延时仅为130?s,且对星地数据通信链路的带宽需求也大大降低,能够满足实时窄带参数估计处理的需要。甚长基线干涉（Very Long Baseline Interferometry,VLBI）技术是一种重要的宽带无线电跟踪测量技术,需要通过宽带干涉相关处理得到2个观测站基带信号的互功率谱估计,根据其相位获得高精度的差分群时延估计。本文在详细地讨论了宽带干涉相关处理算法原理的基础上,针对联合VLBI观测中的异构基带数据干涉相关处理问题进行了深入研究,提出了2种异构基带数据干涉相关处理方法:数据参数统一转换器（Data Parameter Unify Converter,DPUC）和异构直接FX（Heterogeneous Direct FX,HDFX）型相关机。DPUC采用统一的信号处理结构实现多种异构数据间数据格式和信号参数的转换统一,配合普通FX型相关机可获得差分群时延估计。HDFX型相关机则不需要参数转换,通过频谱对齐、可变点数离散傅里叶变换等处理可直接得到异构基带数据的互功率谱估计。通过数值仿真和实测射电源VLBI数据进行了测试与验证,证明了2种算法的有效性。在VLBI观测中,预测时延模型对干涉测量结果有很大的影响。为了使宽带干涉相关处理摆脱对预测时延模型精度的严苛要求,本文研究并提出了2种无预测时延模型条纹搜索算法:扩展FFT条纹搜索算法和互模糊函数-小波提升（Cross Ambiguity Function-Wavelet Boosting,CAF-W）条纹搜索算法。扩展FFT条纹搜索算法通过二维搜索网格解决了现有FFT条纹算法搜索范围过窄的问题。CAF-W条纹搜索算法基于CAF实现时延-时延变化率的联合估计,通过Wavelet Boosting算法消除了搜索平面的基底干扰,显著提高了条纹搜索的稳健性。CAF-W算法解决了扩展FFT条纹搜索算法在算法参数不合适时的伪峰干扰问题,成功实现了在无预测时延模型情况下多条基线的射电源与“嫦娥3号”探测器的高精度条纹搜索。CAF-W算法的搜索窗仅在时延方向进行滑动,单个搜索窗范围远大于FFT条纹搜索,因此处理速度比扩展FFT条纹搜索算法快1000倍。综上所述,本文从信号处理算法及软硬件实现技术等方面对深空探测DBE系统和信号处理等关键技术进行了深入研究,提出的算法与实现设计均通过射电源或深空探测器的实测数据测试验证,可满足深空探测无线电跟踪测量和射电天文科学实验的需要。