为了适应未来移动通信系统提供各种多媒体业务的需要,有限的无线道被分成若干相互正交的子信道,从而产生了多载波调制技术。小波包变换的多载波技术就是其中比较被看好的一种。它具有频谱利用率高和良好的抗符号间串扰、信道间干扰、脉冲干扰和单频干扰的优良特性,并且易于多速率传输。因此是一种非常有发展的多载波调制技术。小波分析用到的小波函数具有不惟一性,同一工程问题用不同的小波函数进行分析有时结果相差甚远。因此,本文在分析了不同小波基性质的基础上,对比了正交和双正交等小波族对小波包多载波调制基带系统误比特率性能的影响。试验所设置的仿真环境为经RS编码, TCM-16QAM调制的COST207 6径信道模型。通过仿真对比了正交小波基(dbN小波),Symlets小波,Coiflets小波,双正交小波基的误比特率性能。进而,本文分析了小波包多载波调制系统中最优基选择的问题。在选择了一定花费函数的基础上,最优小波包基就是使花费函数最小的基。本文采用以功率一定条件下的信道容量为花费函数,按照最优小波基搜索算法,得到了最优小波基,并将其应用于试验所设置的仿真环境中。本文所完成的工作经过了MATLAB建模与仿真,分析并验证了其在小波包多载波调制系统中的性能。理论分析和仿真结果表明,本文所阐述的以功率一定条件下的信道容量为花费函数,经搜索得到的最优小波基应用于小波包多载波调制系统中可以在一定程度上提高系统性能。