高通量测序技术的发展产生了大量的生物组学数据,这些数据中往往包含着生物发展过程中的重要信息。单细胞RNA测序（Single-cell RNA sequencing,Sc RNA-seq）技术的快速发展使生物学家们可以在分子水平上对基因表达数据进行研究。Sc RNA-seq数据的出现也为组学数据的异质性研究提供了可能,对这些数据进行挖掘研究对疾病的诊断、治疗、预防以及探索细胞的分化过程有着重要意义。非负矩阵分解（Nonnegative Matrix Factorization,NMF）方法作为一种有效的大规模数据处理方法得到了广泛的关注,使用该方法可以对高维小样本的生物组学数据进行有效的降维处理。然而,传统的非负矩阵分解方法没有考虑到数据内在的流形结构和数据噪声对算法性能的影响。因此,本文基于生物组学数据中的Sc RNA-seq数据,针对现存非负矩阵分解方法存在的不足之处进行补充完善,具体研究内容包括以下三部分:（1）针对生物组学数据中不同细胞种群边缘模糊及固有的流形结构等特点,提出了自适应总变分超图正则非负矩阵分解方法（ATV-HNMF）。首先,将自适应总变分方法引入到NMF模型中,对边缘数据和平滑数据分别进行强化或去噪处理,可以保留细胞特征以及减少噪音干扰。然后,使用超图正则项编码多个样本点之间的高阶几何关系,深入挖掘数据中的流形结构。最后将该方法应用到细胞亚型区分、网络构建以及标记基因选择中,从而对分子水平的细胞研究提供有效的帮助。（2）针对单个聚类算法降维维度选取不确定的问题,提出了一种集成总变分图正则非负矩阵分解方法（ANMF-CE）。该方法使用总变分图正则非负矩阵分解模型作为集成学习框架的基本学习器。总变分项可以自适应学习数据矩阵的局部特征,对不同类型的边缘数据选择对应的处理方案;图正则项则可以考虑样本之间成对的几何信息。进一步通过集成学习框架可以有效的捕获数据的全局结构,并且获得基于多个聚类结果的预测矩阵,然后通过共识函数将预测矩阵集成为最终的结果。最后,将该框架应用到单细胞测序数据中以提高细胞亚型的辨别能力,同时选取更有意义的标记基因。（3）针对现存的非负矩阵分解方法没有充分利用数据内在几何结构的问题,同时考虑了相似样本与非相似样本之间的关系,提出了相似与非相似正则化非负矩阵分解方法（SDCNMF）。一方面,与流形正则化约束相似,相似性正则化项保留了数据空间中距离较近的相似样本之间的成对几何结构,使高维空间中的相似样本的低维表示更接近。另一方面,在目标函数中引入非相似性约束项,将数据空间中距离较远的不相似样本引入到算法的迭代更新中,能够最大化原始数据矩阵的信息利用率,使非相似样本在低维表示中彼此远离。最后将该方法应用于基因表达数据中进行聚类和标记基因的选择,有利于了解细胞间的异质性。实验结果表明,本文提出的方法比已有模型更具优势,可以获得更好的聚类结果,在网络构建、标记基因鉴定方面也有真实的生物学意义。