本文研究了分数阶Fourier变换(Fractional Fourier Transform,FRFT)在非平稳信号时频分析中的应用,与Wigner-Ville分布,Wigner-Hough分布等非平稳信号时频分析方法进行了性能对比分析,并利用分数阶Fourier变换对含噪非平稳线性频率调制信号(Linear Frequency Modulation ,LFM)进行分数阶Fourier域滤波的数值模拟实验,实验结果表明,分数阶Fourier变换具有良好的滤波性能。本文的主要工作是:1、从理论和实验的角度分析了利用分数阶Fourier变换对含噪非平稳线性频率调制信号LFM信号滤波的性能,该方法克服了Wigner-Ville分布,Wigner-Hough分布进行时频分析时的干扰项和二次项问题;2、根据Lohmann的理论研究了Wigner-Hough变换与Wigner-Ville分布的坐标旋转关系,分析了分数阶Fourier变换对于线性频率调制信号处理时的时频聚集性。3、对含噪非平稳线性频率调制信号进行分数阶Fourier域滤波,信噪比明显提高。尤其是对于两个频率接近的LFM信号采用分数阶Fourier域滤波方法实现分离的实验,表明分数阶Fourier变换比传统的Fourier变换分析方法,和Wigner-Ville分布、Wigner-Hough分布等时频分析方法具有更好的性能,具有广泛的实际应用前景。