分数傅立叶变换(FrFT, Fractional Fourier Transform)作为傅立叶变换的推广,可以理解为时频平面上的旋转算子。由于其具有很多传统傅立叶变换不具备的性质,目前已在信号处理等领域受到了较大的关注。本文研究了基于分数傅立叶变换的调制、多址及接收三方面的内容。作为一种对广义的调制方式的应用,本文利用分数傅立叶变换对信息进行加密处理,设计了基于分数傅立叶变换的保密通信系统。仿真结果表明本系统具有较好的保密性能。此外,当Chirp信号作为载波实现多进制调制时,其系统性能与采用正弦载波的传统系统相当。Chirp信号特定阶次的分数傅立叶变换为一个冲击函数,通过峰值检测时可以实现有效地分离。基于此,在多址方面,本文介绍了三种多址系统。首先分析了采用Chirp信号分数域峰值判决的多址系统的性能,通过对用户中心频率的安排可以基本避免用户间的干扰。其次本文介绍了一种不等功率谱密度的分数傅立叶变换域调制解调方法,通过对用户占用的带宽进行设置,实现用户的分配,该系统对抗单频干扰存在一定的优势。最后本文设计了一种超宽带多址系统。该系统中采用与时分多址相结合的方式,用户占用相同的带宽,满足功率谱密度的规范。用户间相互准正交,通过分数域滤波可以得到较好的系统误码性能。在接收机设计方面,本文对超宽带中的接收方式进行了研究。设计了两种基于分数傅立叶变换的超宽带接收机。基于相位信息的TR接收机,通过对信号相位信息的估计可以得到比传统的时域TR接收机更好的系统性能,并可以取得更高的传输速率。基于分数傅立叶变换的Rake接收机,在分数域上实现多径的分离与接收,避免了时域接收机难于实现信号多径分离的难题。