高光谱图像是新型的遥感数据,凭借其较高的光谱分辨率,区分微小光谱差异地物的能力,且不需要任何先验光谱信息,因而具有较强的实用性,现已成为目标检测领域中的一个研究热点,受到国内外专家学者的高度重视。本文在深入分析高光谱图像数据结构及特点的基础上,运用一些信号处理手段,针对高光谱图像异常检测中存在的检测模式单一、选取适当的核参数、如何充分利用高光谱图像的空间特性等问题,做了以下三方面的研究：首先,在研究高光谱图像异常检测的检测模式的基础上,针对传统的检测模式常常受到由未知或不感兴趣的信号源发出的干扰或白噪声的影响,提出了一种基于多窗口特征分析的核RX算法(MWKRX),不同与传统目标检测的双窗口模式,该算法采用三层检测窗口对高光谱图像进行检测,即外窗,中窗,内窗。在外层窗口中利用OSP算子消除内窗口和中层窗口的背景干扰,有效的去除了白噪声。中层窗口用于选取背景像元,并利用KRX算子对内层窗口中的待测像元进行异常检测,改进算法的检测性能明显地优于传统算法,降低了虚警概率,具有较好的检测效果。其次,在分析了基于核方法的正交子空间算子即KOSP算子的基础上,提出了一种基于自适应核方法的正交子空间投影KOSP高光谱图像异常检测算法即AKOSP算法。该算法有效的解决了统一的全局检测参数很难适应复杂多变的背景环境,表现为复杂背景下的检测性能下降的问题。这不仅提高了算法的通用性也降低了检测的工作量。并将该算法与其他算法进行比较,结果表明,本文提出算法的检测性能明显地优于传统算法,表明核参数选择恰当与否是决定算法性能的重要因素。最后,针对现有的高光谱图像的异常目标检测的算法均是从数据光谱信息和特征空间分析的角度出发进行处理的,忽略了像元之间存在的空间相关性,本文提出了一种基于数字图像形态学理论的异常检测算法。利用基于灰度面积学闭开运算的核RX算法(ACO-KRX)对降维后的图像进行异常检测。不同与传统目标检测算子,该算法充分利用了光谱特性的同时,更好的兼顾到高光谱图像的空间特性,从而达到去除噪声干扰,平滑图像的检测效果。