目标检测是计算机视觉领域主要研究热点之一,吸引着相关领域研究者的广泛关注,取得了大量卓有成效的研究和应用成果。然而在现实应用中,存在待检测目标与背景区域不能完全区分,目标显著性弱、边缘模糊、尺度形态颜色差异较大等诸多问题。对诸如此类非显著性目标检测的研究依然是个挑战。现有目标检测算法通常对目标区域与背景区域间的差异较为敏感,并对候选区域存在依赖,当检测目标边缘模糊,与背景区域存在交叉时,很难满足检测需求。针对边缘模糊的非显著性目标定位难题,本文提出基于深度度量的随机搜索方法。首先在图像中随机生成候选区域,制定相关编码机制将每个候选区域视作一个Agent,通过构造并训练一个深度度量网络来衡量目标示例与Agent之间的相似程度。采用PSO方法思想,驱动Agent进行目标搜索。该方法不依赖候选区域的选择,在非显著目标检测中,检测召回率较现有检测方法有显著提升,且检测结果可靠有效。由于在传统PSO算法中,种群只有一个最优个体,而在实际应用中,待检测个体往往不唯一。在此基础上,进一步提出基于深度度量的自适应目标检测方法,对传统PSO算法进行改进,建立外部记忆空间,存储目标区域,采用动态聚类策略对外部记忆空间进行聚类,确定目标位置信息,完成目标检测。本文主要研究内容和贡献包括:（1）提出三元深度度量网络模型（Triple-Deep Measure Net,TDMN）,模型输入为一组由正负样本与锚点组成的三元组,输出正负样本间距离值。设计两个子网络分别实现输入样本的特征提取与关系学习,并给出相应学习和训练方法。TDMN网络能够计算目标示例与输入样本间的度量值,解决在目标检测过程中,目标与候选区域间度量困难的问题。（2）提出TDMN-PSO目标检测方法,在待检测图片中随机生成候选区域,设计相应编码机制,视每个候选区域为一个Agent,引入PSO思想,在每一次迭代搜索过程中,利用TDMN计算个体、群体最优,驱动Agent向目标区域逼近。该方法采用随机搜索策略,面向待检测样本整体进行目标检测,规避了现有检测方法由于对候选区域的依赖,导致对非显著目标的漏检、误检问题。（3）提出TDMN-AMPSO自适应目标检测,优化TDMN-PSO方法使其在多目标检测中具有更好的检测效果。对传统PSO算法进行改进,提出AMPSO算法,生成外部记忆空间,用来记录优质粒子的搜索轨迹。AMPSO方法可以帮助粒子跳出局部最优状态,扩大粒子搜索视野。（4）改进Agnes聚类方法,提出AMAgnes动态聚类,不需要指定聚类簇数量,使用TDMN度量值约束聚类状态,通过评价指标确定聚类状态稳定点,完成对外部记忆空间的动态聚类,实现目标检测。将本文方法应用于遥感图像、医学影像等边缘不清晰的非显著性目标数据集中,经实验验证表明,本文方法在不依赖候选区域的前提下,检测召回率和检测精度均有不同程度的提高和改善,具有很强的现实意义。