正交时频空（Orthogonal Time Frequency Space,OTFS）作为一种全新的二维调制技术,不仅兼具码分多址（Code Division Multiple Access,CDMA）和正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）的优点,还能很好地适应具有高多普勒频偏的应用场景。在OTFS系统中,信道估计与信号检测是两个重要环节。作为信号检测的基础,时变多径信道中的小数倍多普勒频偏以及接收端的同步误差都会影响OTFS系统信道估计的准确度。不仅如此,在对OTFS系统进行信号检测时,也要兼顾系统的可靠性与整体运算复杂度。本文从OTFS系统的理论分析出发,首先对信道估计技术进行研究,接着利用这部分研究成果在接收端进一步开展信号检测技术的研究。本文的主要研究成果归纳如下:（1）本文在分析OTFS系统模型时,在接收端考虑了载波频偏（Carrier Frequency Offset,CFO）和定时偏差（Timing Offset,TO）两种常见的同步误差,并进一步分析了同步误差对于基带接收信号的影响。同时给出OTFS矩阵形式的等效系统模型,揭示了OTFS系统在不同变换域中的输入-输出关系,为开展OTFS系统的信道估计技术和信号检测技术研究奠定理论基础。（2）针对时变多径信道中的小数倍多普勒频偏干扰,首先对OTFS系统现有的时延-多普勒（Delay-Doppler,DD）域信道估计技术展开讨论。随后,提出了一种基于导频脉冲的时域信道估计方法,在时域中补偿时变多径信道小数倍多普勒频偏以及接收端同步误差对于OTFS系统的影响,并通过仿真比较了DD域和时域信道估计技术的性能差异。同时,分析指出时域信道估计方法所得到的时域等价信道矩阵对于降低信号检测复杂度更加有利。（3）在OTFS系统信道估计技术研究的基础上,进一步开展信号检测技术研究,分别进行了线性接收机和非线性接收机设计。首先,提出了一种低复杂度的线性最小均方误差（Linear Minimum Mean Square Error,LMMSE）接收机,其运算复杂度远低于经典线性接收机。随后,提出了一种基于最大比合并检测的非线性接收机设计方案,这一方法利用时域等价信道矩阵进行信号检测,与现有的非线性接收机相比,不仅降低了运算复杂度,还可以补偿接收端同步误差对于OTFS系统的影响。