第五代移动通信系统（The Fifth Mobile Communications System,5G）继续演进的后5G（Beyond 5G,B5G）空中接口和相关波形必须支持多种多样的需求和使用场景,包括用于车辆-车辆和车辆-基础设施系统的最高可达300 km/h的终端速度,以及用于高速列车应用的高达500 km/h,甚至是高速飞行器,卫星通信场景等等。已应用于第四代（The Fourth Mobile Communications System,4G）与第五代移动通信系统的正交频分复用（Orthogonal Frequency Division Multiplexing,OFDM）技术面临高速移动场景导致的子载波干扰、密集导频开销等诸多技术挑战,而B5G空中接口可能支持包括更高速列车、甚至是非地面高速飞行器等场景需求。正交时频空间（Orthogonal Time Frequency Space,OTFS）通过在时间与频率二维扩展设计,将调制信号所经历的衰落、时变无线信道转换为一个具有恒定复杂信道增益的时间无关信道,已被相关研究证明在快速时变衰落信道下具有优于OFDM的传输性能。本文对OTFS调制波形的信号设计与检测技术继续开展了研究。首先对OTFS的研究历史与发展现状展开介绍,并从五个方面归纳总结了OTFS技术的研究现状,分析了当前存在的问题和挑战。接下来,进一步阐述了OTFS调制的基本架构与原理,并概述了基于抽头延迟线（Tapped Delay Line,TDL）模型的快速时变衰落信道模拟方法,最后对OTFS系统与OFDM系统进行了检测性能比较与仿真。结果表明,OTFS在超高速移动场景下具有鲁棒性。然后搭建了基于Simulink平台的OTFS理想信道估计和导频信道估计链路,对OTFS导频时延多普勒域信道估计性能进行仿真。同时,本文对OTFS系统采用迫零（Zero foucing,ZF）,最小均方误差（Minimum Mean Square Error,MMSE）,消息传递（Message Passing,MP）三种信号检测方案的性能进行了仿真比较研究,仿真结果表示,针对时延多普勒域的MP检测具有最佳的性能。其次,本文比较研究了基于多天线（Multiple Input Multiple Output,MIMO）空间复用与空间调制（Spatial Modulation,SM）的OTFS系统设计方法,并进行仿真比较研究。基于所给出的设计框架,仿真研究表明:空间复用OTFS系统在高速场景中吞吐量提升增益须以误码率性能下降为代价;而空间调制OTFS系统则可以利用空间调制抑制天线间干扰的优势,从而保证在快速时变信道中的误码率性能。本文进一步提出了基于空间分集的OTFS系统设计框架,即空时分组码（Space Time block coding,STBC）正交时频空系统,并完成了STBC-OTFS系统的Simulink链路级仿真系统,在相同参数的TDL信道条件下,验证了所提出的STBC-OTFS系统具有比空间复用OTFS、空间调制OTFS系统更好的误码率性能。此外,本文还设计并验证了一种基于时延多普勒域的梳状导频结构,仿真结果表明信道估计性能可以逼近理想信道估计结果。本文的第四章中,从提高OTFS系统整体性能、设计更稳健的OTFS通信波形角度出发,研究了基于自适应调制的OTFS系统设计框架,搭建了基于Simulink仿真平台的自适应调制OTFS链路。接着,通过分析OTFS系统的多载波时延多普勒特征,提出了一种基于时延和多普勒反馈的自适应OTFS传输方案,并通过对多种信道模型中不同时延多普勒模式的自适应OTFS链路仿真研究,获得了时延多普勒资源块与反馈表征信息间的对应关系。本文最后总结了研究工作中的不足,指出了未来仍待研究的方向。