视觉显著性检测的目的是通过算法模拟人类视觉注意机制,来定位图像关键区域。作为图像理解的基础步骤,显著性检测围绕场景中感兴趣区域建模,最终为计算机赋予视觉感知能力。因此,开展视觉显著性检测研究具有十分重要的意义。显著性检测主要通过特征提取,计算特征对比度来对图像显著区域进行分析,但检测结果存在背景区域被误检为显著目标、显著区域边缘不清晰、显著区域内部显著值不一致等问题,这在一定程度上降低了显著性检测的精度,对后续图像处理步骤产生了消极影响。本文从传统显著性检测算法和基于深度学习的显著性检测算法两个方面入手,以目标候选区域（Object proposals）,低秩矩阵恢复,U-net模型为研究对象,为提高算法的检测精度与鲁棒性提供了思路和方法。本文具体研究工作如下:（1）针对现有的先验信息在抑制背景区域,突出目标区域方面存在不足,以超像素为研究单元,提出了一种基于Edge Boxes和改进低秩矩阵恢复的显著性检测算法。首先在Edge Boxes算法中,引入边界连接信息和先验信息重新修正每个候选框的得分,根据得分高低选定固定数量的候选框,框定图像中所有可能成为显著目标的位置,运用非极大值抑制,进一步筛选候选区域。根据各个候选框的中心点采用DBSCAN聚类算法得到图像显著目标的中心,通过提取目标的最小外接矩阵,确定图像显著区域位置。以上步骤解决了显著目标定位的问题。最后,在框选的显著区域中,运用基于对数行列式函数的结构化稀疏模型显著性检测算法,计算最终的显著图,达到细化显著区域的目的。与其他方法对比,本章算法检测的结果更加精准,提升了算法的性能。（2）在引入了显著目标先验后,针对算法存在的显著区域边缘不清晰及显著区域内部显著值不均匀的问题,以区域为研究对象,提出了基于改进分层分割算法的区域显著性检测算法。首先,引入分层分割算法的架构,将原架构中求取边界概率的方法用结构化边缘检测算子代替,同时运用多尺度的概念,通过多幅边缘图像的加权求和得到图像轮廓信息,将目标中心先验运用到轮廓区域合并计算中,这些措施保证了分层分割算法的效率与有效性。然后,在分割区域中,根据已得到的显著结果计算每个区域内的显著值频率直方图,对分割区域进行优化计算,得到的显著图与其它方法结果相比,显著区域边缘更加清晰,区域内部显著值一致性更高。（3）针对传统的显著性检测无法反映由高层语义对象驱动的视觉显著性问题,以提取图像高级特征为目的,提出了基于自适应Inception结构和注意力机制的密集U-net显著性检测模型。模型以U-net网络为基础,融合了密集模块、Inception结构、注意力机制和基于低层特征的显著信息。在U-net网络的编码部分,用密集模块代替卷积运算,同时根据层次的不同,设置不同的Inception结构,多尺度融合不同层次的特征。在解码部分的每一层,将基于低层特征得到的显著图调整为与对应解码层的图像大小相同,并进行特征融合。在跳层连接中,加入多阶混合的特征增强注意力门控模块,运用解码层中的融合特征对编码部分的特征图进行注意力控制。该检测模型能够恢复图像丢失的细节,得到的结果在可视化及评价指标方面都更加接近真值图。（4）针对传统的图像分割方法无法准确分割出图像的关键区域,不符合人类视觉特征的问题,提出一种基于视觉显著性的GrabCut图像显著目标分割算法。将显著性检测算法得到的显著图作为图割方法的掩模,不需要人工交互自动完成图像前景和背景的区分。算法将运算单元从像素变为超像素,提升了运算效率。同时在平滑项中加入自适应的参数,使图像分割结果细节更突出,最后通过迭代计算得到显著目标分割图像,与其他图像分割算法相比能够凸显图像中的关键区域。同时对于现实场景中采集的图片,算法也能够将图像目标清晰的分割出来,证明了算法的普适性。