实例分割是计算机视觉领域的一项新兴的综合型任务,这一综合性任务同时涉及了图像分类、物体检测和语义分割三个子任务。实例分割是自动驾驶、三维重建等工作的底层任务,在工业界有很好的应用前景,受到众多学者和工业界人士的关注。近年来,伴随着深度学习的发展,实例分割从无到有,逐渐发展分化为两步式方法与一步式方法。当前实例分割普遍存在分割掩膜不精细、定位检测框无法包含完整物体等问题。本文针对上述的两个关键问题,基于经典的两步式实例分割算法,从多尺度特征融合、非极大值抑制算法着手研究。本文的主要工作如下:（1）提出一种基于多尺度特征融合的实例分割算法（Mask-Refined R-CNN）,解决物体细节错误分类,分割掩膜不精细的问题。传统的两步式实例分割算法在分割头部网络采用了尺度不变的全卷积网络,忽略了不同尺度感受野之间空间信息的差异。网络无法考虑对象边缘像素之间的关系,这些像素将被错误分类。本文在实例分割框架Mask R-CNN的基础上,将原有的全卷积语义分割头部网络替换为可以融合高层和低层信息的特征金字塔结构,并对应调整了ROIAlign的输出大小,最后在特征金字塔上增加横向连接来平衡前向和后向传递的信息量,最终返回与输入图像相同分辨率大小的图像。Mask-Refined R-CNN能有效地提高分割精度,在对较大尺度实例进行预测时表现很好。（2）提出一种面向实例分割的合并非极大值抑制算法（Syncretic-NMS）,解决物体检测边界框无法完整包含实例的问题。物体检测的评估标准要求边界框与真实值尽量接近,但是不强调包含物体的完整性,因此边界框通常不能完整包含物体,位于边界框外的部分无法在后续的语义分割中得到正确的预测结果。针对此问题,本文提出了合并非极大值抑制算法。算法在获取传统非极大值抑制算法返回的边界框后,对每一个边界框的相邻边界框进行关联判断,将相关性强的邻框与对应边界框合并,合并框的坐标为边界框和强相关邻框的坐标极值。通过分析关联要素的影响,给出了关联判断的准则。Syncretic-NMS的计算复杂度与传统NMS相同,易于实施,不需要额外的训练,可以简单地集成到现有的实例分割框架中。（3）将提出的基于多尺度特征融合的实例分割算法和合并非极大值抑制算法在MS COCO数据集和Cityscapes数据集上进行验证,并与当前主流实例分割算法进行对比。实验表明,Mask-Refined R-CNN能有效提高分割掩膜精细度,尤其对于图像中的较大物体,掩膜质量会显著提高。Syncretic-NMS能稳定地提高实例分割精度,且算法能较好地适应场景变化。（4）将本文的两种算法融合到一个实例分割框架下进行验证,并与当前主流实例分割算法进行对比。实验表明,基于多尺度特征融合与合并非极大值抑制的实例分割取得了最高的分割精度,不仅能较为完整地包含实例,还能精确地对边界框中的实例进行分割。