多载波正交频分复用(Orthogonal Frequency Division Multiplexing,OFDM)系统由于其高频谱利用率而成为当今和未来的主流无线传输技术。在OFDM系统中,准确信道状态信息的获取对于数据检测至关重要。高移动性环境是未来无线通信应用的重要方向之一,在由高速移动所产生的双选信道下,直接估计时域冲激响应所需的待估参数过多,信道估计变得非常困难。基扩展模型(Basis Expansion Model,BEM)由于可以在变换域对信道传输特性进行等效描述,能有效缩减待估信道系数的维度,从而引起了广泛的重视和研究。首先,本文针对单入单出正交频分复用(Single-Input Single-Output Orthogonal Frequency Division Multiplexing,SISO-OFDM)系统,研究了双选信道条件下的信道估计问题。本文详细推导了时域高阶维纳滤波(Wiener Filter,WF)插值和线性内插之间的渐进关系,根据无线信道衰落特性的相关性及贝塞尔函数的近似性质,提出了低复杂度的三阶维纳滤波实现方法,通过理论分析和数值仿真,验证了算法的有效性。本文在双选信道条件下,基于基扩展模型,理论分析并推导出时域维纳滤波的设计准则,由于该模型能较好的描述双选信道所带来的子载波间干扰(Inter-Carrier Interference,ICI),从而在高速移动环境中能取得更好的系统性能。其次,本文针对集中式多入多出正交频分复用(Multiple-Input Multiple-Output Orthogonal Frequency Division Multiplexing,MIMO-OFDM)系统,研究了基于基扩展模型的双选信道下联合信道估计和数据检测问题。提出一种允许背景噪声方差未知的基于期望最大化(Expectation Maximization,EM)的多天线信道参数估计和数据检测联合迭代更新的近最大似然(Maximum Likelihood,ML)算法,理论分析和仿真证明,该算法性能接近最大似然的理论下限。为降低该算法复杂度,本文将接收信号表示成每根发送天线信号的叠加向量形式,提出各天线独立更新信道和数据信息的次优迭代算法。仿真结果表明,该方法相对于信道参数和数据的联合迭代更新技术,在性能和计算复杂度之间可以取得更好的折衷。再次,本文针对分布式MIMO-OFDM系统,研究了双选信道下,利用基扩展模型的联合信道估计和数据检测问题。除了未知的背景噪声方差外,本文还进一步综合考虑了接收端可能存在的干扰和相位噪声。利用经验的先验信息,在基扩展模型下基于最大后验准则(Maximum a Posterior Probability,MAP),提出了利用变分贝叶斯推理(Variational Bayesian Inference,VBI)的联合信道参数估计和数据检测,理论分析和数字仿真结果验证该算法接近理想情况下假设理想信道状态信息,无相位噪声及已知干扰和加性高斯白噪声时的接收机误码性能。最后,针对非对称双选信道,本文还研究了基于OFDM的协作式双向中继网络(Two-Way Relay Network,TWRN)系统中的联合信道估计和数据检测问题。本文在背景噪声方差确定的条件下,利用最小均方误差(Minimum Mean Square Error,MMSE)准则优化了初始估计的准确度,并利用信道参数的经验先验信息,基于变分贝叶斯推理得到了近最大后验的检测算法,理论分析和数字仿真结果验证该算法接近理想情况下假设理想信道状态信息的接收机误码性能。综上所述,本文在以基扩展模型为代表的双选信道下,针对基于多载波的各类典型通信系统,利用贝叶斯理论深入研究了各类信道估计算法,探讨了先验信息是否能够获取及其在估计和检测算法中的应用,并在具备未知背景噪声,干扰和相位噪声等复杂环境下进行了充分验证。