正交小波包复用(OWPM)作为多载波系统的一个新兴技术越来越受到研究者的关注,它利用小波包逆变换和正变换实现多载波信号的调制和解调。具有频谱利用率高,抗干扰能力强,易于实现多速率传输等特点。信道估计是实现OWPM系统高速率传输的关键技术之一,所以对于OWPM系统及其信道估计等关键技术的研究具有重要的研究意义和实用价值。本文在系统分析OWPM原理的基础上,深入研究了在多径衰落信道下适用于OWPM系统的信道估计新方法。主要工作与贡献如下:(1)针对OWPM缺乏完整论述的现况,系统总结了OWPM系统的基本原理。结合小波理论和波形正交的特性,着重分析了OWPM系统的正交性;并就多路复用转换器在多载波系统中的应用,给出了正交小波包复用系统任意分解模式下,多速率滤波器组的实现方式。对OWPM系统在多径衰落信道中的性能进行仿真分析。(2)提出了在二维时频域中不等间隔插入导频的信道估计方法。针对传统的导频模式并不适用于OWPM系统的问题,文中分别就OWPM系统逐级分解模式和全载波分解模式两种情况提出了适用于OWPM系统的导频模式。在逐级分解模式下,根据不同子载波码元周期互不相同的特点,提出了随着分解尺度的加深,以等比数列模式逐级减少导频间隔的导频模式。在全载波分解模式下,根据不同频率对相干时间的影响,提出了将子载波在二叉树的基础上进行分组,随着频率的增加,以等差数列模式依次减少每个分组的导频间隔的导频模式。仿真结果表明:上述两种方法实现了导频的合理分配,并提高了估计精度。(3)提出了基于EM半盲信道估计方法的优化补偿算法。针对EM算法存在的误差传播问题,提出了在E步和M步迭代过程中,利用线性内插进行二次估计的补偿算法,并利用相邻子载波之间的相关性降低算法复杂度。该方法兼顾了各个子载波分量在时域和频域的相关性,有效地提高了EM算法的精度,加快了算法的收敛速度。(4)提出了利用抗差估计抑制符号间干扰和信道间干扰的抗差信道估计方法。针对带有符号间干扰和信道间干扰的OWPM系统服从非高斯噪声分布的特性,提出了基于Huber抗差迭代的信道估计方法。所提方法根据噪声的大小分别采用LS估计和L1估计,有效地抑制了ISI和ICI的对系统造成的影响,并在一定程度上简化了系统均衡算法的复杂度。