近年来,随着单细胞RNA测序（scRNA-seq）技术的不断发展壮大使得研究人员可以从单个细胞的基因表达转录普中分析和解决生物学问题。面对海量的单细胞测序数据,无监督深度学习可以准确高效地实现数据的整合与分析。在单细胞分析过程中,降维和聚类是分析必不可少的步骤,其目的是用来去除scRNA测序数据中的冗余信息,探寻细胞的种类以及数量。神经网络的快速发展,使得scRNA测序数据摆脱了传统算法耗时久,精度低等束缚。无监督深度学习与scRNA测序数据的结合使得研究迈向更为广阔的天地。本文基于无监督深度学习对单细胞RNA测序数据进行研究,研究内容如下:1.提出一种新的聚类方法,该方法使用小波降噪并结合经典自编码网络,我们称之为sc-WAE。首先,通过训练选择合适的小波来重构scRNA测序数据,将原始数据中大量的非真实零值重构为具有实际含义的数值。其次,使用经典自编码网络来降维重构后的数据。自编码降维过程,充分展现了无监督深度学习在大数据集上无可比拟的处理优势,从而快速获得低维且有效的scRNA测序数据进而提高单细胞数据的分析效率。最后,使用变分贝叶斯高斯混合模型对细胞进行聚类,然后将聚类结果可视化并且利用原有的真实细胞标签计算并评估聚类性能。我们使用十个真实的scRNA测序数据集来评价我们提出的sc-WAE方法。将我们新提出的聚类方法的结果与已发表的四种聚类方法进行比较,综合四种聚类评价指标结果,证明了sc-WAE方法的聚类效果总体上优于其它四种聚类方法。2.提出一种基于双自编码结合变分贝叶斯高斯混合的聚类方法,我们称之为sc-VBDAE。首先,通过对抗自编码网络的编码和解码过程,scRNA测序数据被重构。重构后的单细胞基因表达矩阵中数据发生了明显的改变,原有的零值被重构为非零数值。其次,使用经典自编码网络对重构后的scRNA测序数据进一步降维处理,从而获得低维且有效的scRNA测序数据,进而再次提高scRNA测序数据的分析效率。再次,使用变分贝叶斯高斯混合模型对scRNA测序数据进行聚类。最后,将聚类后的scRNA测序数据进行下游分析并可视化分析结果。我们选取了十个具有代表意义的单细胞数据集,将我们提出的方法依次运行得出聚类结果,根据四种聚类评价指标证明我们的方法具有很好的聚类效果。与此同时我们运行了另外五种聚类算法,并与我们所提算法进行比较,结果进一步证明我们的方法总体优于其它聚类方法。