超奈奎斯特(FTN)传输和时域重叠复用(OVTDM)技术是突破传统Nyquist传输准则的两种思想,其特点就是能够在提升数据速率的同时,获得高效的频谱利用率。FTN侧重于加快符号速率,通过人为缩短符号间隔让其小于Nyquist的传输间隔,以达到提升频谱效率的效果,同时通过尽量保持最小欧氏距离来保障差错概率。OVTDM技术则通过采用移位叠加传输,人为引入可控的符号间干扰,以改善信号输出电平分布。OVTDM强调采用波形分割的思想来区分不同信号,以获得尽可能大的编码增益和较高的频谱利用率。由于OVTDM采用的不是电平而是波形分割,因而也属于一种波形编码。已有研究表明,虽然FTN和OVTDM系统都对不同系统的译码性能进行了分析,不过都是基于AWGN信道或者低速时变信道场景的分析,有关高速场景下FTN或者OVTDM系统的性能表现,尚未有文献进行研究。为此,有必要进行接收机设计的改进,以更好地估计由高移动性产生的快时变信道状态和有效地消除符号间干扰(ISI,Inter Symbol Interference)和载波间干扰(ICI,Inter carrier Interference),等等。考虑到高移动场景下的快时变信道干扰的影响,本论文对已有FTN和OVTDM接收机的结构进行了改进,增加了基于迭代算法的快时变干扰估计和预消除模块,对由信道快时变特性和非正交传输引入的干扰预先进行粗略估计和消除。仿真分析表明,FTN系统中的加速因子对于系统性能的影响较大。论文对于在数据传输速率提升和保证系统误码性能的折衷方案进行了分析,重点研究了FTN系统和OVTDM系统的误码性能,并基于实际应用采用噪声白化机制来消除有色噪声的强相关性的影响,以改进高移动场景下接收机系统性能。