无线通信与个人通信在短短几十年经历了从模拟通信到数字通信、从FDMA到CDMA的巨大发展，目前又出现了以OFDM为核心的第四代移动通信技术。第四代移动通信系统是多功能集成的宽带移动通信系统，它将以宽带、接入因特网、具有多种综合功能的系统形态出现。本文以基于OFDM技术的第四代移动通信为研究对象，采用研究对象与新概念、新方法相结合，理论分析结果与仿真相结合的研究方法，重点研究探讨了OFDM系统中如下问题： 1．在深入研究分形理论的基础上，本文着重讨论了归属于分形理论的分数布朗运动模型。根据分数布朗运动的特性，本文提出了一种基于ARMA模型的分数布朗运动建模的方法，并从增量的统计分布、统计自相似性等方面证明了该模型的有效性。而后，在原有ARMA模型的基础上，基于相关函数提出了一种模型的改进方式，仿真试验表明改进后效果有了显著的提高。 2．针对移动通信信道建模，传统的方法基本采用“简化处理”模式，导致仿真结果与实际差距较大。本文采用系统科学的思想，直面问题的复杂性，将分形理论引入到信道建模中来，在介绍了基于分形理论的电磁模型的基础上，证明了电磁波在传输过程中，由于自然界物体分形特性，导致多径信号也具有分形特性，且属于分数布朗运动。而后，通过分析发现OFDM发射信号与多径信号从表达形式上具有一定的相似性，由此做出假设并通过理论分析和仿真试验，从统计意义上证明了OFDM发射信号在一定意义上具有分形特性，由此可以使用小波变换对OFDM信号进行重构。从而为OFDM问题的研究开辟了一条新的思路。 3．在OFDM系统实现过程中，本文摒弃了传统的傅立叶变换和反变换的调制方式，转而使用小波变换技术。通过对小波变换理论的深入探讨，将小波包调制作为本文的研究重点。在小波包信号分解和重构问题上，引入了小波提升算法，并结合WB-OFDM系统的特点提出了一种小波包反变换最优基选取的方法，该方法有助于提高WB-OFDM系统的抗干扰能力。