协同显著性检测是近年来计算机视觉领域迅速兴起和快速发展的一个研究领域,旨在一组图像中找到外观相似或者语义相同的处在前景中的目标,分割出基于像素级的协同显著物体。其中,流形排序算法基于设计的特征构建多张输入图像节点间的联系,筛选出置信度高的节点作为目标输出。然而,现有大部分方法只考虑到协同物体外观特征相似这一理想因素,忽略了现实场景中大量协同目标存在语义和概念上的一致性,因而基于传统手工设计的特征对这类复杂场景的鲁棒性很差。为此,本文提出了基于深度流形排序的协同显著性算法,主要贡献为如下两点:(1)本文将无监督的掩模学习、有监督的双通道全卷积网络训练和多尺度的标签平滑相结合,提出了一个由粗到细的层次化解决方案。本文首先采用所提出的掩模全卷积网络产生初始检测结果。本文中所设计的全卷积网络包含两个通道。掩模被用在了两个通道中不同的卷积层,用来引导卷积层学习有针对性的相关图像间共有特征。为了得到掩模,本文提出了一个稀疏优化目标函数来最大化掩模响应的方差。得到初始检测结果后,文中设计的多尺度优化函数被用来联合优化像素和超像素的标记平滑性。实验结果显示该方法在三个常用数据集i Coseg,MSRC和Cosal2015上都取得了很好的精度。特别是在Cosal2015上与当时已知方法相比在多个评价指标下性能最优。(2)为了避免收集和整理大规模数据带来的高昂费用,本文引入自监督学习策略,提出了三个新颖的子模块来解决上述问题。本文首先通过提出的无监督图聚类算法从图像的卷积特征中产生一个初始的检测结果。然后被后处理的初始输出作为第二阶段模块的伪标签来学习一个基于卷积网络的关系预测模型,学习到的关系权重矩阵被标签平滑的流形排序算法用来生成预测值。最后,预测的平滑结果作为监督,本文设计了一个融合分层次多尺度特征的显著性检测网络来预测最后的协同显著性检测结果。对于给定一张图像,所提框架可以轻松退化成单张显著性检测框架。实验结果显示该方法在显著性和协同显著性检测集上都取得了很高的精度,和现有无监督和有监督方法相比在多个指标下性能优越。