正交频分复用(Orthogonal Frequency Division Multiplexing，OFDM)技术具有频谱利用率高、抗多径干扰能力强等优点，是下一代无线通信系统的关键技术之一。多输入多输出(Multiple Input Multiple Output，MIMO)技术能够在不增加发射功率和带宽的前提下，利用空间资源显著提高传输速率、频谱效率和通信可靠性。将MIMO技术和OFDM技术相融合的MIMO-OFDM技术是当前和未来无线通信的核心技术之一。　　 尽管OFDM系统和MIMO-OFDM系统具有诸多优势，但是基于OFDM技术的无线通信系统对由模拟器件的非理想特性引起的同相正交(In-phase and Quadrature-phase，IQ)支路不平衡十分敏感。IQ不平衡会破坏OFDM系统子载波间的正交性，产生镜像干扰并造成OFDM系统性能下降。因此，如何有效地抑制IQ不平衡成为OFDM/MIMO-OFDM系统研究中的一个重要课题。为此，本文专注于研究基于OFDM/MIMO-OFDM系统的IQ不平衡补偿和IQ不平衡与信道联合估计方法。主要工作如下:　　 1.针对OFDM系统中发射机和接收机产生的与频率无关的IQ不平衡问题，提出了IQ不平衡的时域无反馈补偿算法和基于时域最小二乘的IQ不平衡与信道联合估计算法。时域无反馈补偿算法在接收机处对由发射机和接收机产生的IQ不平衡进行联合补偿，无需由接收机向发射机反馈IQ不平衡参数估计信息，与传统的时域反馈算法相比系统开销小、效率高。时域最小二乘估计算法充分挖掘了受IQ不平衡影响的信道时域特性，仅采用两个OFDM训练符号即可达到较好的估计性能，比传统的估计算法大幅减少了训练符号数目，提高了系统频谱效率。　　 2.针对OFDM系统发射机和接收机中存在的与频率相关的IQ不平衡问题，构造了基于频域高斯消元的IQ不平衡补偿和IQ不平衡与信道联合估计算法。首先，通过对OFDM符号的逐个子载波进行高斯消元，得到IQ不平衡补偿和信号检测结果。然后，设计了频域的训练序列结构，给出了IQ不平衡参数和信道联合估计方法。通过对估计结果进行频域—时域变换并截短信道有效长度获得了信噪比增益，有效减少了所需训练符号的数目，提高了系统频谱资源效率。算法复杂度分析表明，基于频域高斯消元的估计和补偿算法比传统的频域最小二乘算法复杂度低。仿真结果表明，频域高斯消元算法的误码性能接近已知IQ不平衡参数和信道信息的理想系统。　　 3.对快时变信道中的OFDM系统进行了研究，针对发射机和接收机的IQ不平衡和多普勒扩展所共同产生的子载波间干扰问题，提出了分块的迭代交替结构，设计了在快时变信道中补偿IQ不平衡的低复杂度球形译码—并行干扰消除算法。该算法对系统模型进行分块处理，采用球形译码算法消除块内干扰，并行干扰消除算法抑制块间干扰，将两种算法相结合并交替迭代数次可达到良好的干扰抑制效果。同传统的最小二乘算法和最小均方误差频域均衡器相比，低复杂度的球形译码—并行干扰消除算法具有更好的系统误码性能。　　 4.研究了在稀疏多径信道环境中的MIMO-OFDM系统的IQ不平衡问题，给出了一种基于正则化最小二乘—平行坐标下降算法的IQ不平衡参数和稀疏信道的联合估计方法。首先推导了IQ不平衡参数和稀疏信道的联合估计模型，进而给出了一种迭代的IQ不平衡参数和信道的联合估计方法。该方法采用l1-l2优化模型在信道稀疏性和估计误差之间取得了良好的折衷，并用平行坐标下降算法求取优化问题的全局最优解。为获得较快的收敛速度，以正则化最小二乘估计结果作为平行坐标下降算法的初始值，由此获得IQ不平衡参数和稀疏信道的联合估计结果。数值仿真验证了正则化最小二乘—平行坐标下降估计方法的系统误码率和估计归一化均方误差性能均明显优于传统算法。　　 5.针对存在发射机和接收机IQ不平衡的MIMO-OFDM系统，为有效降低接收机的处理复杂度，提出了在发射机采用预编码技术抑制IQ不平衡的方案。设计了适用于预编码处理方法的发射机、接收机结构，给出了基于奇异值分解算法的IQ不平衡抑制方法。将预编码方案与注水功率分配相结合，进一步提高了系统的性能。数值仿真表明，抑制IQ不平衡的预编码方案的系统误码性能、速率均比无预编码的最小二乘算法和最小均方误差算法具有显著提高。