现代信号处理以非线性、非高斯和非平稳信号作为分析和处理的主要对象。其中,非平稳信号处理的发展尤其引人注目,围绕非平稳信号的分析与处理而发展起来的新理论之丰富,提出方法之多,研究发展态势之猛,应用所涉及的部门与领域之广泛,都是信号与信息处理学科的发展历史中前所未有的,现已经成为信号与信息处理学科的研究热点之一本文正是以非平稳信号中的两种常见信号：多项式相位信号和循环平稳信号为研究对象,主要研究了多项式相位信号参数估计方法,基于循环平稳信号的阵列信号处理方法以及循环平稳信号的平稳表示等内容。具体的讲,本文主要完成以下工作。(1)提出了基于分数阶傅里叶变换的三次相位信号参数估计方法。利用三次相位信号的瞬时相关函数是线性调频信号(LFM)的特点,采用分数阶傅里叶变换和解线调相结合的方法,估计三次相位信号的所有参数。并采用一阶扰动分析法分析了延时参数对算法估计精度的影响,给出了选择延时参数的准则和所有参数估计的均方误差表达式。理论分析和仿真结果均表明通过合理的选择延时参数,该算法在高信噪比的情况下,估计的均方误差可以渐近的收敛到其各自的克拉美劳界。此外,由于该算法仅涉及到二阶非线性运算,所以具有较低的信噪比门限。最后,将该算法推广到多分量更高阶多项式相位信号的参数估计也进行了简单的讨论。(2)提出了一种自适应计算离散分数阶傅里叶变换的方法,并将其应用到多分量LFM信号的参数估计之中。该方法从连续分数阶傅里叶反变换的离散形式出发,通过合理的选择输入变量和期望信号构造自适应滤波器,使得滤波器的权系数恰好为信号离散分数阶傅里叶变换,并采用最小均方(LMS)算法自适应的更新滤波器权系数,从而实现了离散分数阶傅里叶变换的自适应计算。接下来,通过理论分析给出了该算法的收敛条件。最后,将该算法应用到多分量LFM信号的参数估计之中。理论分析和仿真结果均表明该算法可以用来计算信号的离散分数阶傅里叶变换和实现多分量LFM信号的参数估计,且估计延时相对较小(3)以循环平稳信号的参数模型表示为研究对象,提出一种由循环平稳信号谐波级数表示获得信号周期时变滑动平均参数模型的方法。首先采用滑动平均参数模型来描述谐波级数表示中的联合平稳随机过程,然后利用谐波级数表示中谐波信号的周期性构造周期时变滑动平均参数模型,最后通过仿真验证算法的有效性。理论分析和仿真结果均表明在满足一定精度的条件下,可以由循环平稳信号的谐波级数表示获得相应的周期滑动平均参数模型。(4)论文还对适用于窄带循环平稳信号输入的阵列信号处理算法进行了简单的讨论。提出一种基于循环最小均方算法的自适应波束形成算法。针对基于传统LMS算法的自适应波束形成器在循环平稳信号输入的情况下性能将会下降的缺点。本文提出利用循环平稳信号二阶统计量的周期性构造周期平均误差平方指标函数,然后采用LMS算法自适应的优化该指标函数形成循环最小均方算法,并分析了该算法的收敛性和在不同信噪比和信干比下的性能。由于该算法在构造指标函数时,考虑了信号的循环平稳性,因此基于该算法的波束形成器的性能要优于传统算法。同时为了实现对窄带循环平稳信号的波达方向估计,将应用于改进窄带循环MUSIC算法的选择导向矢量频率的方法推广到循环ESPRIT算法之中,形成了一种改进的窄带循环ESPRIT算法。为了实现方位角和俯仰角的联合估计,将该算法应用到由两个相互正交的线性阵列组成的二维阵列中。仿真结果表明,与传统的ESPRIT算法相比,改进算法具有很好的信号选择性和估计精度,与传统的循环ESPRIT算法相比,改进算法在一定程度上提高了估计精度。