第六代移动通信系统（6th generation,6G）相比于5G（5th generation）移动通信系统在应用场景、传输性能等方面需满足更高的性能指标,为应对卫星、无人机和高速铁路等高移动性场景,6G面临的挑战之一是满足速度高达1000 km/h超高速移动场景的通信需求。空天地一体化通信系统以及高速率通信业务的发展也对下一代卫星通信系统的空口波形提出了更高的要求。正交时频空（Orthogonal time frequency space,OTFS）调制利用时延-多普勒域信道变化缓慢特性,将信息符号复用到时延-多普勒域传输,可充分利用信道时间、频率分集,与正交频分复用（Orthogonal frequency division multiplexing,OFDM）调制相比,在高速移动场景下传输性能提升明显,且频谱效率更高,峰均比（Peak to Average Power Ratio,PAPR）更低,OTFS调制比OFDM调制更适合星地高移动性通信场景。然而,OTFS系统的信道估计与信号检测算法设计比OFDM系统更具挑战性。因此,本文针对星地OTFS通信系统,研究其信道估计和信号检测算法及改进策略,并在典型场景下开展深入的仿真分析与验证,对相关技术的发展和系统设计具有指导意义。首先,本文介绍了星地通信的信道特性和典型的信道模型,之后对OTFS调制技术的原理与实现进行介绍,讨论了OTFS系统目前的信道估计、信号检测算法的优势与不足,并分析了OTFS调制适用于星地高速移动场景下通信的原因。接下来,本文研究了OTFS系统的信道估计方案。利用时延-多普勒域信道的稀疏特性,将信道估计问题转化为稀疏信号恢复问题,设计了基于单观测向量的信道估计方案。在此基础上,本文提出了基于多观测向量的信道估计方案,可利用信道的时间相关性、联合稀疏特性,改善了信道估计的准确度。此外,本文利用OTFS系统导频矩阵的双重块循环特性,简化了最小二乘信道估计（least squares,LS）的计算复杂度。仿真结果表明,本文提出的信道估计方案具有更好的性能,且低复杂度的LS信道估计不会导致信道估计准确度损失。最后,本文研究了OTFS调制应用在星地通信中的传输性能以及OTFS信号检测算法。将基于连续性干扰消除的最小均方误差算法（Minimum mean squared error with successive detection,MMSE-SD）应用于OTFS信号检测以改善OTFS系统性能,针对其计算复杂度较高问题,提出了一种低复杂度的基于连续性干扰消除的信号检测算法,仿真结果表明,与传统信号检测算法相比,本文改进的信号检测算法实现了复杂度与性能间的权衡,OTFS相比于OFDM更适合星地高移动性通信。