相当长一段时间内，人们对信号的分析仅仅局限于平稳情况。尽管人们经常面临大量的非平稳信号，受理论条件的限制，人们不得不将非平稳假设为平稳。根据对信号的种种假设，在许多情况下的处理效果是可以接受的。但更多情况下是不能接受的。对信号进行种种假设的目的是方便人们对信号进行处理时能够抓住事物矛盾的主要方面。如果假设有一定偏差，甚至是错误的，那么错误的假设将导致错误的结果，这就使信号处理工作本身失去了意义。正因为如此，20世纪80年代以后，非平稳信号的处理就成为亟待解决的问题，并受到人们的广泛关注，因而很自然地成为现代信号处理研究的热点之一。本文以自适应和分数阶傅立叶变换为主要技术路线，对非平稳信号处理的若干问题进行了深入研究，主要贡献如下。 ·给出了基于二阶循环统计量的改进LMS算法。 ·给出了周期自适应滤波器的自适应滤波器组直接实现结构。 ·给出了周期自适应滤波器的基于时间基函数展开的实现结构。 ·给出了线性周期时变系统的系统周期一种自适应估计算法。 ·给出了循环平稳随机信号的LPTV时变参数信号模型及该模型参数与信号循环统计量之间的关系。 ·给出了基于序列顺序置乱的信号白化算法：混沌序列乱序白化算法和伪随机序列乱序白化算法。 ·给出了基于输入信号乱序白化的改进LMS算法。 ·将小波神经网络引入时变参数信号模型中，给出了基于小波神经网络的自回归时参数信号模型。 ·给出了基于分数阶傅立叶变换的模糊函数，研究了它们的性质，重点讨论了分数阶模糊函数在三次相位信息提取中的应用。 ·给出了基于分数阶傅立叶变换的倒谱。 ·给出了线性调频型分数阶傅立叶变换的一种自适应数值计算结构和算法。 本文共分七章，按照如下方式组织。 首先，在回顾主要时频分析方法的基础上，简要给出随后各章所要用到的一些专业背景知识和本文的主要研究内容。 其次，研究了平稳(或循环平稳)随机信号通过线性时不变(或周期时变)系统后输出信号的循环平稳性质。根据这些性质，给出了适于循环平稳输入的改进LMS算法，并从算法梯度估计噪声方面讨论了改进算法的性能。在线性周期时变系统这种特殊系统中，针对经典的自适应滤波器不能工作的问题，给出了适用于这种系统的周期自适应滤波器结构及算法。 第三，循环平稳随机信号的循环谱密度等循环统计量也是一种描述信号的非参数方法，它与其它的参数化描述方法之间必然存在联系。本文对循环平稳随机信号的非参数化方法和时变参数信号模型法之间的关系进行研究，并给出它们之间显式(解析表达式)的内在联系。给出了循环平稳随机信号的LPTV型时变参数信号模型。 第四，对非平稳随机信号的时变参数信号模型法，特别是对于时变参数表示为一组时间基函数的线性组合问题进行研究。在前人工作的基础上，采用小波函数为基函数，给出基于小波神经网络的时变参数信号模型，并对其应用进行研究。 第五，时频分析中的基函数选择十分重要。好的基函数可以有效地将信号的主要特征浓缩于有限的几个展开系数中。分数阶傅立叶变换可以看作是傅立叶变换的推广，具有更广泛的代表性，将分数阶傅立叶变换与经典二次时频分析方法结合，可以得到分数阶wigner分布等广义化的分布。研究了广义化分布的主要性质和主要应用。 第六，在非平稳信号中，线性调频信号是一类应用广泛而又十分特殊的信号，滤波器频率特性未知的扫频滤波器是一个时变系统，研究线性调频信号通过这样一个系统后的复原问题。最后，对全文研究工作进行了总结，对下一步研究工作作了展望。