目标分割任务旨在识别物体的边缘轮廓,识别轮廓质量可概括为静态图像中目标的边缘分割精度和视频数据中目标的边缘稳定性。现有的分割方法为了改善特征间的内部一致性或者提高边缘的细节,往往使用不同尺度间的融合,对全局上下文信息进行建模或者采用额外的边缘加权机制。本文考虑将主体与边界作为重要参考指标,提出了基于动态卷积的主体与边界解耦实例分割方法。同时当图像分割算法应用在视频分割中时存在抖动性,需进一步提高分割的边缘稳定性。为此,本文从损失角度展开研究,提出了渐进式自监督稳定性损失函数。具体研究内容如下:（1）以CondInst作为基础算法,提出了改进的DBE-CondInst算法。首先,设计了DBE模块代替mask branch结构达到解耦主体特征与边界特征的目的。其次,在DBE模块中使用encode-decode模块滤除无关噪声,对主要特征进行编码,结合光流思想生成更加连续的主体特征和边界特征。最后使用动态卷积动态生成密集型分割分支并融合主体特征与边界特征生成实例分割结果,消除以往方法对Ro I裁剪和特征对齐的依赖。本文在COCO2017数据集上进行了实验,对结果进行比较,不同的训练策略下,DBE-CondInst的测试精度比CondInst在增加2%计算量的基础上提升了0.8～1.1个百分点,同时优于其他主流实例分割算法,证明了提出的DBE-CondInst算法的有效性,显著优化了边界细节与内部连续性。（2）将分割算法应用于视频媒介时,无法避免连续帧分割结果的抖动性,常表现为边界像素的闪烁。本文从损失角度出发,提出了渐进式自监督稳定性损失函数,使用旋转、平移、缩放等几何变换模拟目标的运动,在不使用视频分割数据集且无需额外标注信息的情况下,设置了由强到弱的自监督扰动方式,递进式的学习时序稳定性。实验结果表明,在网络中加入提出的渐进式自监督稳定性损失函数训练后,模型的测试结果在精度提升的基础上提高了视频连续帧的平滑性,增强了分割的稳定性。（3）最后,概括了本文的研究内容,并对研究内容需进一步改善的不足之处进行了分析和展望。