加权分数傅里叶变换(Weighted-type Fractional Fourier Transform, WFRFT)是近几年提出的一种新型的时频分析的数学工具，经WFRFT处理后的信号同时具有时域和频域信息，并且WFRFT对信号的处理过程同时包含了多载波与单载波通信系统的实现过程。因而将WFRFT用于通信系统中后可构建一种新型的时频联合的变换域通信系统，亦可叫做混合载波(Hybrid Carrier, HC)通信系统，该系统最大特点就是不仅可以与现存的两种载波体制相兼容，还解决了这两种体制在同一系统共同传输的问题。然而也恰恰由于WFRFT同时包含了单载波与多载波的调制过程，变换域通信系统继承了单载波与多载波系统中我们不希望得到的某些特性，本文主要针对这些缺点进行研究。文章首先对WFRFT这种数学方法的基础理论研究部分进行了总结，并对基于WFRFT理论提出的时频联合的变换域通信系统进行了介绍，进而阐述了系统的基本原理及其系统的结构框图，并对其信号特征进行了分析。其次，文章又针对频偏对系统的影响进行了分析。以数学推导的方式对系统受频偏影响而出现子载波间干扰的机理进行了分析，进而文章根据变换域通信系统的特点，采用多项式消除编码的方式对系统进行改进，并对改进系统进行了相应的数学分析以及仿真分析。仿真证明了采用多项式消除编码改进后的系统性能得到了明显的改善。最后，文章围绕系统的PAPR问题展开了讨论，在该部分，文章首先将变换域通信系统的PAPR性能与传统多载波系统PAPR性能进行了对比，进而将多载波系统中的选择性映射技术移植到变换域通信系统中，并通过仿真对其性能进行了分析，更进一步的，文章又根据WFRFT的性质对SLM方法进行了改进，提出了两种新型的PAPR抑制方法，并通过仿真对这两种方法的性能进行了分析，最后文章又将组合最优化中的交叉熵算法与传统的SLM方法相结合，进一步提出了一种基于交叉熵算法的SLM方法。同样文章中对该方法的性能以及计算复杂度进行了分析。分析表明这几种方法均可大幅提高系统的PAPR性能，且基于SLM提出的三种改进算法相比直接移植到WFRFT系统的传统SLM方法的计算复杂度均得到了大幅的降低。