正交频分复用(OFDM)凭借其较强的抗多径干扰能力,在通信系统得到了广泛应用。大多数无线通信信道不仅是多径的,而且也是时变的,它同时表现出时间和频率选择性衰落,通常被称作双选择性衰落信道。在终端高速移动的通信系统中,信道的时变特性更加明显,由此产生的多普勒扩展效应破坏了OFDM系统中子载波间的正交性,从而引起子载波间干扰(ICI)。ICI的存在显著影响了OFDM系统的性能,即它使得现有的检测算法难以取得理想的性能,并且随着子载波个数的增加,现有检测算法面临着过高的复杂度,这使得双选择性衰落信道中能较好权衡性能和复杂度的OFDM检测算法成为一个关键的难点问题。本文针对上述问题,对双选择性衰落信道中的OFDM检测算法展开研究。首先,本文介绍了OFDM的基本原理,给出了双选择性衰落信道的建模方法,并在此基础之上分析了ICI产生的原因,进而介绍了几种ICI抑制方法。然后介绍了几种经典的线性与非线性检测算法,包括最小二乘、最小均方误差、排序连续干扰消除、最大后验概率检测等。接着,针对降低复杂度的问题,本文重点研究了基于部分快速傅里叶解调(PFFT)的检测算法并对其进行改进。本文采用信干噪比最大(SINR)窗函数的设计方法,对现有基于PFFT的检测算法进行了改进,能够在性能略微损失的情况下显著降低现有算法的复杂度。部分快速傅里叶解调作为一种新型的解调方式,它通过对信号进行分段处理,并在每段信号后进行补零,从而使得子区间信号与原信号的长度保持一致。这种方式可以将ICI对信号的影响分配给补零部分,进而有效抑制ICI。本文所提算法不仅能充分利用PFFT在抑制ICI方面的优势,而且能利用频域信道的带状性质达到降低检测算法复杂度的目的。为了降低双选择性衰落信道中ICI对OFDM系统性能的影响,本文重点研究基于加权分数傅里叶变换(WFRFT)的迭代检测算法并对其提出改进。由于线性均衡难以取得较好的性能,本文提出基于最优阶WFRFT的迭代干扰抵消(ISDIC)检测算法。不同于已有算法是根据载干比推导出固定的最优阶,本文根据不同的SNR实时计算最优阶,从而确定当前SNR下最优的WFRFT变换矩阵。尽管引入了复杂度的提升,但是能够获得更好的检测性能。