随着深度学习的发展以及机器算力的提升,计算机视觉的研究向着更精细、更准确的方向前进。传统的分割算法只能将图像中的一类整体分割出来,深度学习时代的分割算法则可以对图像中的关注目标进行实例级的分割,甚至进行精准的部件级分割。尽管实例分割算法已经在自然场景中达到了较高精度,但在遮挡情况发生时,现有算法往往无法满足需求,这在对于人体类别的实例分割算法中尤为明显。因而,本文专注于对遮挡场景中的实例分割算法进行研究,针对人体这一特殊类别,通过构建遮挡场景人体实例分割数据集、优化实例分割算法架构等方式,面向遮挡场景的人体实例分割与非模式实例分割任务进行研究。本文首先构建了面向遮挡场景的人体实例分割数据集。针对通用实例分割数据集无法反应遮挡场景人体实例分割效果的问题,本文在百度人像分割数据集的基础上,通过人为构建遮挡的方式,合成了大型遮挡场景人体实例分割训练集OHIS-train与验证集OHIS-val。此外,本文在公开数据集OCHuman基础上,人工筛选构建了遮挡场景人体实例分割测试集OHIS-test。其次,本文提出了融合自下而上特征的单阶段实例分割算法EM-BUF。针对遮挡场景的实例分割任务,本文对比了现有实例分割算法在多个遮挡场景实例分割数据集上的表现,并选择单阶段实例分割算法Embed Mask作为本文基线模型。此外,本文通过增大像素编码特征图分辨率及融合自下而上特征的方式,提升了算法在实例分割任务上的性能。在公开数据集COCO上的实验结果表明,本文所提EM-BUF相较于基线模型能够提升1.1%的平均精度,在OHIS-test上的结果显示EM-BUF获得了最高的平均精度。再次,本文提出了基于非局部注意力的非模式实例分割算法EM-NLA。针对非模式实例分割任务中对于更大视野域的需求,本文在Embed Mask的基础上,融合非局部注意力机制,并增加非模式像素特征编码模块,提出非模式实例分割算法EM-NLA。在非模式实例分割数据集KINS-test上的结果表明,EM-NLA在平均精度上较基线模型提升2%。在OHIS-val上的实验结果表明,EM-NLA在遮挡场景人体非模式实例分割任务中取得了最优性能。