传统的正交频分复用(Orthogonal Frequency Division Multiplexing, OFDM)系统作为当前通信领域中最常见的一种多载波调制系统,广泛应用于不同场景下物理层通信设计。但OFDM技术也存在不足,比如系统加入循环前缀降低频谱效率,系统使用矩形脉冲用于脉中成形,导致系统带外辐射高,对载波频率偏移敏感。因此,在未来第5代(5G)移动通信技术,探索更好的多载波调制方案成为很多科研工作者的焦点。采用偏置正交幅度调制的脉冲成形正交频分复用调制(Pulse Shaping OFDM/OQAM)技术被认为是一种合适的选择方案。脉冲成形OFDM/OQAM系统首先使用具有良好时频局部化特性的波形作为系统的原型脉冲,即该脉冲的能量在时域和频域上都能良好集中,兼具较强的抗符号间干扰和子载波间干扰能力。同时系统不再需要循环前缀作为保护间隔,且带外辐射很低,频谱效率高。当然OFDM/OQAM系统以上的优越性能是以放宽子载波正交条件为代价的,即正交性只在是实数域上严格成立。这意味着子载波和符号间存在固有的虚部干扰。虽然接收机通过取实部操作可以方便地消除,但当信号经过复值信道后,固有干扰就很难消除。这使得经典的信道估计和信道均衡,不能直接应用于OFDM/OQAM系统中。脉冲成形OFDM/OQAM系统信道估计,包括基于格状导频以及基于块状导频的信道估计。基于格状导频的信道估计中,现有的辅助导频法存在导频值为小数且能量偏大等问题。本文对其进行了改进,通过迭代的方式来消除导频上的未知干扰。基于块状导频的信道估计中,现有的干扰近似法存在导频开销大的问题,本文对导频结构进行了精简,并且通过三种方法来解决削减导频资源后,导频与数据符号相互干扰的问题。针对脉冲成形OFDM/OQAM系统信道均衡,论文证明了常用的迫零均衡和最小均方误差均衡可方便地移植到OFDM/OQAM系统中。考虑到高斯噪声环境下最优的最大似然均衡算法无法直接应用于OFDM/OQAM系统,本文提出了基于干扰抵消的最大似然信道均衡算法,并通过多次迭代提高固有干扰的估计准确性,以提高信道均衡性能,降低误符号率。并且,本文推导了以上信道均衡算法在多输入多输出模式下OFDM/OQAM系统的实现。最后,论文简单地梳理了研究思路,并针对不足之处,探讨了以后的研究方向和改进点。