近些年发展的基于高通量测序的单细胞RNA测序(single cell RNA-sequencing,scRNA-seq)技术能够在单个细胞粒度上进行基因表达测序,进而可以获得单个细胞内数万个基因的表达信息,这为区分不同类型细胞的基因表达特征和全面揭示细胞之间的异质性提供了支撑。但是由于测序技术的限制以及基因表达高度复杂等原因,单细胞RNA测序数据存在噪声较大、维度过高、稀疏性较强等特点,这导致传统聚类技术对不同细胞种群的聚类精度较低。为了提高不同细胞种群的聚类精度,本文基于scRNA-seq数据对如何提高细胞种群识别的准确率进行了研究。通过分析传统scRNA-seq数据处理方法在数据预处理、降维和聚类等方面存在的问题,提出了利用自动编码器作为降维技术的方法。基于堆栈降噪自动编码器(Stacked Denoising Auto Encoder,SDAE)能够最大程度降低数据损耗、对噪声数据具有良好的处理能力等特点,提出了SDAE-DBSCAN和SDAE-K-means两种降维-聚类方法。实验表明,本文提出的降维-聚类方法降低了原有算法对参数的依赖性,提高了对细胞种群的聚类精度。主要研究内容如下:(1)在数据预处理阶段,通过降低数据筛除比例来降低有效数据的损失率,并利用L2正则化对数据进行预处理。这不仅可以降低不同基因表达差距过大的问题,而且可以最大程度地削弱“强势”特征,并能够将数值较小但比较有特点的特征显现出来。(2)针对传统的PCA降维方法在处理scRNA-seq数据时贡献率不集中的问题,提出利用SDAE对数据进行降维并降噪的方法。利用随机置0的方法向原始数据中添加噪声,通过对受损的数据进行特征学习,提高模型的泛化能力。利用该方法对scRNA-seq数据进行特征学习可以自动识别出数据中存在的噪声点,并能够学习到鲁棒性更强的特征,进而为后续的细胞聚类提供更好的数据特征以提高对细胞种群的识别能力。(3)针对传统的细胞聚类算法需要设置聚类数量和聚类精度较低等问题,提出利用DBSCAN算法对scRNA-seq数据进行聚类。因为基因表达在多维空间中的形状结构不容易分析,所以K-means算法不保证适用;而且基因表达反应了细胞功能,同类细胞的功能表达分布在相似空间结构上应具备连续性,因此利用DBSCAN算法进行聚类分析。但是Eps和MinPts两个参数的取值对DBSCAN聚类影响较大,为了提高DBSCAN的聚类精度提出了改进的自适应计算参数值的聚类算法。对于传统的K-means聚类算法,发现利用SDAE对scRNA-seq数据进行降维可以在一定程度上提高K-means算法的聚类精度。本文利用deng数据集进行实验,实验结果表明本文提出的SDAE-DBSCAN和SDAE-K-means两种深度组合模型的聚类精度分别达到0.97和0.93,较传统的SC3模型分别提高了0.2和0.16。