在传统的信号检测中,总是假设背景噪声服从高斯分布。然而,在很多应用场合,背景噪声表现出非高斯特性和脉冲行为,例如,人为噪声,大气噪声,水下噪声和来自其他用户的干扰等。在脉冲噪声下,传统基于高斯噪声假设的检测器将会遭受严重的性能损失,这是高斯噪声模型与实际脉冲噪声数据不匹配导致的。为了获得更好的检测性能,必须研究脉冲噪声下的信号检测问题。实践表明,Alpha稳定分布是一个成功的脉冲噪声模型,吸引了越来越多的关注。本文以非高斯噪声下的通信侦察为背景,研究了Alpha稳定分布噪声下的非合作信号检测问题。首先,用Alpha稳定分布对实测的水下噪声进行了拟合,取得了较好的拟合效果。然后,从三个方面研究了Alpha噪声下的信号检测方法。首先,本文研究了Kolmogorov-Smirnov(K-S)拟合优度检验在Alpha噪声下的信号检测中的应用,给出了基于双样本K-S检验的信号检测方法,仿真了该检测方法在不同信号类型和不同特征指数下的检测性能,讨论了噪声不确定性对检测性能的影响。K-S检验算法在直流信号和其它信号下的性能差异很大,本文探讨了造成这种差异的原因。为提高高斯信号和BPSK信号下的检测性能,本文提出了数据预处理的改进算法,证明了不同预处理检测器之间的性能关系。以平方预处理为例,分析了其检测性能。仿真验证了预处理措施的有效性。其次,本文研究了基于统计矩的信号检测方法。首先分析了能量检测器和分数低阶矩检测器在Alpha噪声下的性能局限。为确定分数低阶矩检测器的最优指数,推导了检测概率的渐近表达式。在此基础上,利用迭代优化算法求解一个最优化问题就可以得到最优指数。数值仿真验证了最优指数的有效性。然后,提出了基于对数矩的检测器,推导了检测概率和虚警概率的理论表达式,讨论了不同信道条件和噪声不确定性下的检测性能。仿真结果表明对数矩检测器在脉冲噪声下可以取得比分数低阶矩检测器更好的检测性能。最后,本文提出了一种基于有界非线性变换的检测器结构,并给出了选择非线性变换的基本原则。随后,分别构造了软限幅检测器和高斯函数检测器,它们分别代表了有界递增函数和有界递减函数检测器。推导了检测概率和虚警概率,讨论了统计量的参数优化问题,比较了不同检测器的计算复杂度。理论分析和仿真结果表明,有界非线性变换检测器计算复杂度低且检测性能好。特别地,不论计算复杂度还是检测概率,高斯函数检测器都比传统检测算法表现得更好。