均衡是无线通信系统中一种有效对抗多径干扰的关键技术。在接收端，单载波频域均衡技术(Single Carrier Frequency Domain Equalization, SC-FDE)可以有效地消除由多径带来的符号间干扰(Inter Symbol Interference, ISI)且具有较低的复杂度；在发射端，预均衡技术可以用来预先补偿信道衰落及消除ISI，尤其对于时分双工（Time Division Duplex, TDD）系统，无需反馈，只需利用天线校准技术来保证信道互易性，发射端就可以利用信道互易性来获得信道信息，从而方便有效的进行预均衡。但是无线移动信道又是一种时变信道，当信道时变加剧，由信道时变引起的子载波间干扰(Inter Carrier Interference, ICI)以及ISI会导致SC-FDE的性能迅速恶化并增大其复杂度。同时，信道时变性会给天线校准技术带来校准误差，造成信道互易性的损失，从而使预均衡的性能降低。因此，研究时变信道下频域均衡及天线校准技术具有重要的意义。综上所述，本文针对信道时变对接收端频域均衡和发射端预均衡带来的问题，分别展开如下研究工作：本文研究了时变信道下的接收端频域均衡技术。首先，理论推导并分析了时不变信道下采用线性频域均衡的系统的误码率（Bit Error Rate, BER）性能；分析证明了时变信道下的频域信道矩阵的特征为带状矩阵，可通过窗函数对矩阵频带宽度进行选取，从而在均衡性能和复杂度之间做出折中。数字仿真结果证明了频域线性均衡的理论性能的正确性，但是线性频域均衡不能有效对抗ISI和ICI；其次，对时变和非时变信道下频域判决反馈均衡进行研究。通过对均衡后的信号进行建模，根据对符号块求最小均方误差的原则，数学推导了判决反馈均衡滤波器的数学表达式，理论分析和仿真结果证明了频域判决反馈均衡的性能优于线性均衡。通过研究均衡后信号的均衡增益、干扰和噪声功率以及信号概率密度分布，得到了信息比特的软信息计算公式，并通过对软信息进行迭代更新，设计了频域Turbo迭代均衡，理论分析和数字仿真结果证明了Turbo迭代均衡消除ISI和ICI的有效性。本文研究了时变信道下的发射端天线校准技术。首先，研究了单天线TDD预均衡系统的系统模型及天线校准模型，在时变信道下，通过理论推导得到了采用传统校准技术后的系统误码率公式，基于此，本文提出了基于信道预测的天线校准方法，通过信道预测来降低信道时变给天线校准带来的误差，理论推导并得到此时的误码率公式。数字仿真和理论分析结果证明本文所推导的理论误码性能与实际仿真相重合，且本文提出的先信道预测再天线校准的技术可以有效的对抗信道时变性，提高天线校准及预均衡系统的性能。其次在时变信道下将单天线TDD预均衡系统中关于天线校准的结论推广到了多天线TDD预编码系统下，理论推导并得到了采用传统天线校准技术和基于信道预测技术时的系统容量公式，通过数字仿真得到了与单天线情形下相一致的结论。综上，频域均衡及天线校准技术是无线通信系统中保证系统性能的关键技术，本文对频域均衡技术作了深入研究，提出的基于信道预测的天线校准技术适用于时变信道，具有理论研究和实际应用价值。