高光谱遥感图像目标检测是高光谱遥感理论与应用研究的重要环节。由于高光谱图像数据的复杂性,如波段间非线性相关、普遍存在混合像元、训练样本少、噪声影响、同物异谱、同谱异物等问题,使得传统的线性目标检测算法难以表现出良好的性能。近年来核方法的提出和应用为高光谱遥感图像分析提供了一条新途径,但仍面临挑战。另外,在实际应用中,当感兴趣目标相对很小,成像遥感器距离又较远时,目标所成的像通常为亚像元目标图像。在高光谱遥感图像中,亚像元仅占据单个像素的一小部分,其他部分往往是背景信息,于是待检测目标像元总表现为目标光谱和背景光谱的混合。目前国内外针对纯像元的目标检测算法研究已取得了不少成果,而针对亚像元的目标检测算法还相对较少,特别是非线性目标检测算法。此外,高光谱遥感图像并不仅仅是许多独立同分布像素的集合,它还具有结构化的区域：空间上紧密的像素应属于同一类。尤其随着极高分辨率(VHR)影像的出现,图像的空间细节描述能力在日益提高,合理利用图像场景中的空间结构(如纹理,形状等)越来越受到重视。本论文主要研究运用核方法,凭借核技巧特点与优势将现有基于线性混合模型的亚像元目标检测算法转换为相应针对亚像元目标检测的非线性处理方法,从而克服非线性光谱解混难的问题；重点研究利用多结构元素组合的扩展数学形态学方法提取图像的空间信息,再根据核函数构造理论结合光谱信息和空间信息构造组合核,力求提高高光谱图像亚像元目标检测精度。本文主要创新点和研究成果如下：(1)针对非线性混合下的高光谱图像亚像元目标检测问题,本文提出了一种基于核函数的斜子空间投影方法(KOBSP),主要运用核函数理论,输入数据通过非线性变换映射到高维核特征空间。在特征空间中结合核函数,推导出核化了的OBSP表达式,从而避免了在高维特征空间中复杂的计算。核化了的OBSP算法相当于原始输入空间中的非线性OBSP算法。仿真数据和实际遥感数据实验证明了KOBSP优于OBSP。(2)针对非线性混合下的高光谱图像亚像元目标检测问题,在核信号空间正交投影法(KSSP)的基础上,提出了一种光谱和空间信息结合的组合核信号空间正交投影方法(CKSSP)。分别基于边缘序和像元距离为序尺度函数的导出序将灰度形态变换扩展到多值图像空间中的形态变换,利用多结构元素组合的扩展数学形态学方法提取高光谱图像的空间信息。根据核函数定义,将光谱信息和空间信息相结合构造组合核函数,通过组合核信号空间正交投影实现目标检测。实验结果证明了CKSSP方法优于KSSP方法。(3)考虑到一般在对高光谱图像进行目标检测前,需要先端元提取,尤其当目标光谱和背景光谱未知时,端元的选择十分重要,直接影响后续的目标检测、分类、识别等结果。于是本文提出了一种核非监督正交子空间投影(KUOSP)方法,用该方法来实现端元自动提取,实验结果表明该方法自动提取端元合理,且效果佳。(4)前面的研究工作主要用MATLAB仿真实现,而这部分用VC++开发了一个高光谱遥感图像亚像元目标检测软件系统,该系统有打开GeoTiff格式图像、区域选择、OBS端元提取、丰度估计(包括一般的目标检测方法,如SSP、OBSP;还有结合了核函数的相应检测方法,如KSSP、KOBSP;以及运用组合核将空间信息与光谱信息综合利用起来的新方法CKSSP)等功能,其中目标检测是本系统的突出应用部分。