正交频分复用/偏移正交幅度调制（orthogonal frequency divisionmultiplexing/offset quadrature amplitude modulation, OFDM/OQAM）属于广义频分复用（generalized frequency division multiplexing, GFDM）的范畴。与传统OFDM相比，OFDM/OQAM具有抗符号间干扰和子载波间干扰能力强、无需循环前缀、带外辐射低等优点，并已成为IEEE802.22无线城域网、电力线通信和第三代陆地蜂窝移动通信系统长期演进技术的候选技术标准，具有很强的发展潜力。然而，OFDM/OQAM优势的取得是以放宽正交条件并引入具有优良时频聚焦特性的成形滤波器为代价的，从而导致系统运算复杂度的提高，并使传统OFDM系统的一些关键技术无法直接移植至OFDM/OQAM系统中。针对上述问题，本文在分析OFDM/OQAM系统特点的基础上重点研究了系统设计、信道估计、信道均衡和峰-平功率比抑制等关键技术，并提出了相应的解决途径和改进方法。首先，本文研究了OFDM/OQAM系统的实现方法和性能。通过对发送信号的直接离散化，推导得到了一种基于滤波器与离散傅里叶变换相结合的系统实现方法。同时，本文对OFDM/OQAM系统中几种常用的滤波器进行了研究，分析了它们的时频聚焦特性和抗干扰能力。此外，本文结合典型应用环境对OFDM/OQAM系统与OFDM系统的性能进行了分析比较，证明了OFDM/OQAM系统具有比较明显的优势。其次，本文研究了OFDM/OQAM系统的信道估计问题。分析了将传统多载波系统信道估计方法直接应用于OFDM/OQAM系统时存在的问题。在现有方法的基础上提出了一种基于迭代抵消的信道估计方法，使其能够利用更低的导频消耗获得更高的信道估计精度。同时，利用块状导频估计出的信道值之间存在较强相关性这一特点，提出了信道估计值加权处理的方法，有效克服了高斯白噪声的影响，具有很高的处理增益。同时本文还研究了信道与频率偏移的联合估计问题，并提出了一种有效的导频结构和相应的联合估计算法，该算法具有较高的频偏估计精度和信道估计精度，且对时间偏移具有较强的鲁棒性。第三，本文研究了OFDM/OQAM系统的信道均衡问题。针对迫零均衡存在性能平台的问题，提出了基于迭代抵消的干扰消除方法，并在单输入单输出和多输入多输出这两种系统中分别进行了研究。结果表明，通过迭代干扰抵消方法可以有效提高系统性能。另外，本文在证明了残余干扰服从高斯分布的基础上，提出将干扰看做背景噪声的一部分，然后利用最小均方误差准则进行信道均衡的方法。仿真结果表明，该方法可进一步提高系统性能。最后，本文研究了OFDM/OQAM系统的峰-平功率比抑制问题，主要研究了选择映射和限幅方法这两种常用方法。分析了将OFDM系统中的选择映射方法直接应用于OFDM/OQAM系统时存在的问题，并根据滤波器的特点提出了一种有效的选择映射改进方法，该方法既降低了计算复杂度又提高了峰-平功率比抑制性能。同时，本文研究了限幅噪声的消除问题，提出了一种有效的限幅噪声抑制方法。首先在接收端重现限幅噪声，然后将其从接收信号中去除，从而降低限幅噪声对系统性能的影响。以上研究成果从多个角度对OFDM/OQAM系统存在的主要问题给出了可行的解决途径和性能提升方法，可为在无线城域网、现代国际移动通信和未来移动通信等无线通信系统或标准中采用OFDM/OQAM技术提供支撑。