宽带无线通信得迅猛发展极大的丰富了人们的生活。由于无线信道不像有线信道那样固定,当信息在无线信道中传播时不可避免的要受到多径干扰的影响。如何消除这些干扰,保证通信质量是人们一直不断探讨的问题。近年来,单载波调制再一次逐渐成为人们研究的热点,并作为像正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)等多载波调制技术的补充替代技术。这在很大程度上是因为经过快速傅里叶变换后,在频域上采用非线性均衡结构的复杂度和OFDM技术接近。这里的非线性均衡主要是由两个线性均衡器组成,一部分直接消除部分码间干扰,另一部分利用先前检测得数据进一步消除码间干扰。实际上,对高效非线性频域均衡技术的研究进一步推动了单载波调制技术在不同标准中的应用。本文首先阐述了无线信道的基本特征,小尺度衰落的基本参数与分类;建立了固定宽带无线访问标准化委员会IEEE802.16.3规定的无线信道SUI信道模型。其次,对单载波传输系统做了介绍。阐述了单载波传输系统中的关键技术。论证了循环卷积代替线性卷积的条件以及单载波频域均衡的系统帧格式。对UW序列的产生以及性能进行了评估。介绍了均衡的基本分类与频域均衡的原理。详细推导了频域线性均衡与频域判决反馈均衡的基本原理,给出了在SUI-5信道条件下两种均衡的性能分析。对单载波频域均衡的性能进行分析,从复杂度的角度给出给出时域均衡与频域均衡的复杂度比较从信道容量以及信号峰值平均功率比的角度给出单载波频域均衡与OFDM系统的比较。最后,研究了频域判决反馈均衡的一些改进算法,主要包括频域迭代块判决反馈均衡、频域均衡噪声预测、频域双向判决反馈均衡算法。对这几种算法进行分析与给出了系统误码率曲线。在此基础上,提出了新的改进算法频域均衡双向噪声预测算法。仿真结果表明,所提出的算法可以得到与频域双向判决反馈均衡近似的性能,优于频域判决反馈均衡与频域均衡噪声预测。从复杂度的角度讲,降低了频域双向判决反馈均衡的计算复杂度,并且所提出的改进算法前馈和反馈滤波器系数相互独立,这样设计更加灵活。