随着深度学习在医学领域的兴起,医学图像中的细胞核分割得到了进一步发展,其在病理诊断、药物研发、生物研究等领域有着广泛的应用。然而当前医学图像中的细胞核分割存在诸多难题,如细胞核常常呈团簇、重叠状,难以进行实例级别的分割,另外医学图像来源复杂,且不同的细胞核在形态、尺寸等方面差异很大,如何提取有效的语义信息一直是研究重点,并且分割出来的细胞核边缘信息容易丢失。针对以上问题,本文对现有的细胞核分割算法的不足展开研究。本文主要研究工作如下:（1）设计了一种基于长依赖关系的混合注意力机制（Hybrid Attention Mechanism based on Long-range Dependency,HAM-LDR）。针对团簇、重叠状的细胞核难以分割的问题,该注意力机制通过建立长距离的依赖关系,最大程度地提高网络语义提取范围的同时还能最小化无关区域的干扰,同时还将通道注意力机制与空间注意力机制相融合,从不同的维度增强团簇、重叠状细胞核区域的语义信息。实验结果表明,HAM-LDR能有效分割出团簇、重叠状的细胞核的不同实例。（2）结合HAM-LDR,设计了一种分离式Res Net（Separated Res Net with Hybrid Attention Mechanism based on Long-range dependence,SHAM-LDR）。针对如何增强各种不同细胞核医学图像下语义表达能力的问题,该算法基于分离范式,从增加网络基数的维度增强网络语义提取能力,并且通过组间通道洗牌原理和分组卷积,使得网络更加简洁,易于实现。试验结果表明,结合SHAM-LDR的细胞核分割算法在多个指标上超越了现有的分割算法。（3）结合SHAM-LDR,设计了一种基于特征融合的细胞核分割方法（Nucleus Segmentation based on Feature Fusion and Separated Res Net with Hybrid Attention Mechanism based on Long-range dependence,NSFF-SHAM-LDR）。针对小尺度细胞核难以检出并分割的问题,NSFF-SHAM-LDR在原始特征金字塔的基础上,引入了空洞卷积,以提供不同的感受野语义信息,另外还为每一层特征图赋予不同的权重,然后根据权重来进行特征融合,这种自适应的融合策略充分利用了上下文的语义信息。针对模型分割出来的细胞核mask易产生过分割或者欠分割的问题,NSFF-SHAM-LDR在mask预测分支并行添加了一个边缘预测分支,产生额外的监督信息,与mask预测分支进行特征融合,以得到更好的mask边缘。实验结果表明,该算法在多个数据集上与同类方法相比,均处于领先地位。