循环平稳(cyclostationary,CS)信号处理是信号处理的一个重要分支,是处理循环平稳信号的主要理论方法。经过六十多年的发展,循环平稳信号处理已广泛应用于无线电监管、通信、检测中,受到各国学者的广泛关注。现有的循环平稳信号处理方法可以有效抑制加性高斯噪声,但是在alpha稳定分布噪声影响下,会出现显著的性能退化。因此,本文深入研究alpha稳定分布噪声下循环平稳信号处理方法。本文首先以alpha稳定分布噪声处理方法和循环平稳理论为基础,研究alpha稳定分布噪声下循环平稳信号处理的两种新方法。然后,根据压缩感知(compressive sensing,CS~*)理论,进一步提出alpha稳定分布噪声下循环平稳信号处理方法在欠奈奎斯特采样(sub-Nyquist sampling)下的实现方式及详细流程。最后,研究压缩感知中的稀疏重构(sparse reconstruction)方法,提出一种以树搜索为基础的半贪婪(semi-greedy)新算法。本文主要创新工作如下:(1)针对经典的循环平稳信号处理方法在alpha稳定分布噪声下性能退化的问题,本文介绍循环相关熵(cyclic correntropy)并研究其理论。首先,给出多维随机变量、多维确定信号、多维随机过程的相关熵定义。然后,深入剖析相关熵中高斯核函数的作用,推导高斯核函数对应的一种从一维到无穷维的映射函数,推导alpha稳定随机变量的相关熵的解析表达式。最后,分析非平稳随机过程的时变相关熵与时变相关函数之间的联系,推导循环相关熵和循环相关熵谱的性质。(2)针对循环相关熵中不包含相位信息及高斯核函数的核长不易设置的问题,本文提出双曲正切循环相关(hyperbolic tangent cyclic correlation,HTCC)并研究其理论。首先,基于双曲正切函数提出相位双曲正切变换(phased hyperbolic tangent transform,PHTT),并由此引申出双曲正切相关(hyperbolic tangent correlation,HTC)。然后,在实数域和复数域分析非平稳随机过程的时变相关函数周期性与时变双曲正切相关周期性之间的联系,推导双曲正切循环相关和双曲正切循环相关谱的性质。最后,提出双曲正切循环模糊函数(hyperbolic tangent cyclic ambiguity function,HT-CAF)及其应用方法。(3)根据循环谱在频率域和循环频率域具有稀疏性和对称性的特点,本文提出alpha稳定分布噪声下循环平稳信号处理方法在欠奈奎斯特采样下的两种实现方式及详细流程。第一种方式在实数域内进行,完整采集非稀疏的原始信号,对稀疏的二维循环谱投影进行压缩传感,最后使用贪婪算法(greedy algorithm)稀疏重构二维循环谱投影。第二种方式在复数域内进行,以欠奈奎斯特采样速率对非稀疏的原始信号进行压缩传感。根据分数低阶相关、分数低阶循环相关、分数低阶循环相关谱三者之间联系,设计关于三维分数低阶循环相关谱的目标函数,最后使用凸优化(convex optimization)稀疏重构三维分数低阶循环相关谱。(4)针对A~*正交匹配追踪的启发函数中预置参数不易设置的问题,本文提出非线性回归 A~*正交匹配追踪(nonlinear regression A~*orthogonal matching pursuit,NR-A~*OMP)。首先,以图论中最短路径搜索之A~*搜索(A~*算法)和压缩感知中贪婪算法为基础,评估A~*正交匹配追踪的启发函数,分析贪婪算法在稀疏重构中残差l2范数平方的变化趋势。然后,遵循A~*搜索启发函数的设计准则,构造一种没有预置参数的启发函数。最后,根据有限等距性质(restricted isometry property,RIP)及相关引理,结合数学归纳法推导非线性回归A~*正交匹配追踪成功稀疏重构的充分条件。