雷达目标检测算法在军事和民用的各个领域都具有十分重要的意义,关乎到我国国防领土、领海安全。由于高分辨雷达下海杂波非平稳、非均匀、非高斯的“三非”特性,传统目标检测方法从统计意义的角度对海杂波进行建模,存在检测概率低、虚警率较高等问题,使得海杂波背景下小目标检测成为该领域的难点。本文在研究实测海杂波数据时频特性的基础上,发现分数阶傅里叶变换适合处理此类信号,故在变换域提取时频特征,进行分形特征分析,基于所提特征完成凸包检测和SVM分类。本文的研究内容概况如下:给出了FRFT的定义、时频特性,以及FRFT的性质和特点,介绍了二维峰值搜索方法,最佳旋转角的选取。介绍了分形理论,验证了海杂波增量满足分数布朗运动模型,为分形特征提取、检测工作打下基础。利用FRFT针对海杂波和目标回波信号的能量聚集性不同来实现目标检测,提取变换域的信息熵、峰均比、峰值标准差,分析了特征向量在一维、三维特征空间上的可分辨性。通过快速凸包学习算法获得三维特征空间检测判决区域,实现三组特征联合检测。与基于海杂波单特征检测方法相比,该方法可在短的观测时间获得较好的检测结果。利用去趋势波动分析方法分析了海杂波信号的特点,研究了海杂波单尺度分形特性,在计算Hurst指数过程中,选取适当的无标度区间,提取到精确的分形维数和分形维方差,通过双特征联合检测有效地区分目标与杂波。介绍了SVM的分类原理,针对第三章所提出的信息熵、峰均比、峰值标准差三组特征进行训练,通过仿真实验实现海杂波信号分类预测,具有较高的正确率,该方法可有效的对目标和杂波进行分类。