恶性肿瘤（也称为癌症）是严重危害人类健康的恶性疾病。由于环境的污染、饮食习惯的改变、老龄化以及遗传等原因，肿瘤的发病率呈现逐年上升趋势。然而，理论与实践证明通过早发现、早治疗能够有效预防和控制肿瘤的危害。因此，各种肿瘤早期诊断方法与技术已成为研究者们所关注的热点。　　 随着医学图像可视化技术的不断提高和各种医学成像模式的涌现，医学图像处理与定量化自动分析已经成为图像工程领域和生物医学工程领域的一个重要研究方向。作为医学图像处理的一个分支，细胞显微图像的定量化分析、处理与识别等技术已逐渐成为该领域的研究热点与前沿课题。　　 本文针对Feulgen染色的宫颈刷取物、胸腹腔积液离心提取物以及人工诱导咳痰离心提取物样本进行研究，通过制片、染色、图像采集等步骤取得相应的细胞样本显微图像，结合细胞学与病理学的诊断知识，应用数字图像处理、模式识别和计算机视觉等技术，研究了细胞核的分割方法，细胞核的形态、边界、纹理以及光学特征的提取方法，以及细胞核类型的识别方法，并对利用以上分析结果诊断早期肿瘤进行了研究。本文的研究成果与创新点主要体现在如下几个方面：　　 （1）提出了一种用于细胞核分割的有监督活动轮廓算法。本文在全面研究了针对细胞核分割的阈值方法、分水岭算法、细胞核边界重定位算法以及无监督活动轮廓算法的基础上，将无监督活动轮廓算法、方向梯度以及支持向量机回归算法相结合，提出了一种针对细胞核分割的有监督活动轮廓算法，解决了传统活动轮廓算法对于初始轮廓位置较为敏感、计算复杂度较高以及单一参数效果有限等问题。实验证明，本方法能够有效提高细胞核轮廓的跟踪准确率，并具有较高的稳定性。　　 （2）提出了一种针对细胞核显微图像的光密度图与光强度图归一化方法，并将其应用于细胞核特征参数的提取，提高了特征参数的准确性与鲁棒性。本文系统研究了描述细胞核形态、边界、纹理及光学特点的特征参数提取方法。并针对细胞核显微图像中存在的背景光照和染色深度在样本内与样本间均存在差异的特点，提出了光密度图与光强度图的归一化方法，并利用归一化图像计算相应的特征参数。利用该方法求取的特征参数对实验环境与条件敏感性较低，具有较高的准确性和鲁棒性。　　 （3）提出了基于空间与光学非线性校正的细胞核内DNA物质含量准确测量方法。细胞核内DNA物质含量的测量，一般是通过求取细胞核区域的积分光密度（IOD值），以得到细胞核对透射光线的吸收程度而间接测量得到的。由于图像采集设备的精度和噪声、设备的光学特性、照明设备与环境复杂等客观因素的影响，上述方法得到的DNA物质含量值存在较大误差。本文提出的DNA物质含量的准确测量方法，利用数学形态学方法以及支持向量机回归算法，对IOD值进行空间与光学的非线性校正。实验表明，该方法能够有效提高DNA物质含量测量的准确性和肿瘤诊断的敏感性与特异性。　　 （4）提出了一种结合F-score算法和随机森林算法的细胞核特征向量降维方法。由细胞核特征参数构成的特征向量是相对高维的，直接利用原有的特征向量进行细胞核的分类识别会严重地影响分类器的性能。本文首先采用基于统计的F-score算法对细胞核特征参数进行初步筛选，然后利用随机森林算法计算特征参数对于分类提供的信息量，最后在不同数量特征参数情况下进行支持向量机分类实验，得出最终降维结果。实验表明，本文提出的特征向量降维算法可以提高细胞核分类识别的准确率，并可将分类识别速度提高约1倍，如果考虑到无用特征参数提取所节省的时间，整个分类识别方法的效率将有更加显著的提升。　　 另外，本文还针对细胞核分类识别问题，实验比较了几种常见模式识别算法的分类识别结果，并评估了利用本文以上成果进行DNA定量细胞学肿瘤诊断的诊断性能。　　 本文最后对所研究的内容进行了总结，并就将来可能继续开展研究的方向与问题进行了讨论。