因符合中心极限定理和易于进行理论上的解析分析,传统的信号处理对基于高斯假定和二阶统计量的信号处理理论方法颇为重视。但是在实际应用中,特别是在各种通信系统中,那些偏离高斯分布、带有显著尖峰特性的脉冲噪声客观存在,倘还用高斯模型并基于二阶统计量来描述和处理这类噪声,就会因模型与噪声匹配欠佳而致使所设计的信号处理器性能也欠佳。稳定分布以其优良的性能被引入作为这类噪声的分布模型,并逐步形成了基于分数低阶统计量的信号处理方法。本文主要针对α稳定分布噪声环境下通信系统中的信道均衡算法、阵列信号处理算法及其性能分析进行研究,主要工作包括以下几个方面：(1)分析了α稳定分布噪声环境下通信系统的盲信道识别与均衡问题。针对常规盲信道识别和均衡算法在α稳定分布噪声下性能退化的问题,提出一种接收信号协方差矩阵的鲁棒估计方法,经特征值分解得到噪声子空间,有效地解决了α稳定分布噪声环境下的盲信道识别问题。用近似Hessian矩阵表示分数低阶恒模算法代价函数的局部曲率,提出一种拟牛顿分数低阶恒模算法,提高了分数低阶恒模算法的收敛性能。提出一种基于最小平均p范数准则的直接判决并行分数低阶恒模算法,解决了分数低阶恒模算法收敛后的稳态均方误差不够小和相位模糊问题。针对分数低阶恒模算法引起的基于能量守恒关系式无法直接分析其稳态均方误差的问题,将分数低阶恒模算法的估计误差信号用一阶泰勒级数展开,再应用平稳和非平稳条件下的能量守恒关系式推导出分数低阶恒模算法的稳态均方误差表达式,并进一步讨论了算法步长的取值范围问题,保证了算法的稳定收敛。还进一步分析了拟牛顿分数低阶恒模算法的稳态均方误差特性。大量的仿真实验验证了分析的正确性。(2)分析了α稳定分布噪声环境下多输入多输出系统的盲均衡问题。用分数低阶恒模代价函数代替原代价函数中的恒模部分,用p阶分数低阶相关代替原代价函数中的二阶相关部分,提出了一种分数低阶多用户恒模算法,改善了多用户恒模算法在α稳定分布脉冲噪声环境下的性能。利用所提出代价函数的近似Hessian矩阵,得到了一种拟牛顿分数低阶多用户恒模算法,进一步提高该算法的收敛特性。最后分析了分数低阶多用户恒模算法在平稳条件下的稳态均方误差特性。(3)分析了a稳定分布噪声环境下的阵列信号处理问题。针对a稳定分布噪声环境下相干信号DOA估计的问题,提出了基于相位分数低阶矩的空间平滑技术。针对α稳定分布噪声中的子空间跟踪问题,提出了基于相位分数低阶矩的秩-1子空间跟踪算法、基于空间符号函数预处理的秩-1子空间跟踪算法和基于无穷范数归一化预处理的秩-1子空间跟踪算法,有效地解决了常规的秩-1子空间跟踪算法在α稳定分布噪声环境下性能退化的问题；分析了投影近似子空间跟踪算法在α稳定分布噪声环境下性能退化的原因,依据鲁棒的M估计方法对投影近似子空间跟踪算法的代价函数进行改进,并利用矩阵求逆定理提出了一种基于递归最小M估计的韧性投影近似信号子空间跟踪算法。