短文本聚类作为一种无监督处理技术,能够对大量的无标记短文本进行初步筛选,从中挖掘出潜在的语义信息,为短文本的进一步处理提供了极大的便利。目前,主题模型仍然是一种解决短文本聚类的常用算法,它能够通过文档间的词共现信息去挖掘潜在的主题结构,但这种特征提取方式往往无法考虑到词语之间的上下文关系。因此,有研究者提出将文本向量引入到主题模型中,以弥补主题模型无法挖掘上下文语义信息的缺陷。大部分工作在将预训练的文本向量引入主题模型时,通常会假设文档里的词语作为生成过程的基本单位,并将词语的向量形式完全取代单词形式,这导致主题模型丢失了捕获文档间词共现信息的能力。也有一部分工作认为文档里的词语可以同时具有两种不同的表示,分别对应为单词和向量形式,在引入上下文语义信息的同时仍可以捕获文档间词共现信息,但现有的这类模型仅仅是将词语的向量表示简单引入到了主题模型中,并不能构建一个完整的生成过程。短文本数据由于词少低频、特征稀疏等特点导致传统的文本聚类算法在对短文本进行聚类时无法得到有效的结果。在本文工作中,我们在前人的基础上提出了一种更加完备的主题建模方式,通过假设生成过程的基本单位为文档,令文档和主题都对应有词袋和向量两种不同的表示,每一种表示都对应一个完整的生成过程,将文档的词袋信息和句向量信息同时构建于一个概率生成模型中。在这个模型中,我们利用类别混合模型去组织文档的词袋信息,利用多元高斯混合模型去组织文档的句向量信息,利用折叠吉布斯采样算法去解决短文本聚类问题,我们将它称为类别-高斯混合模型,简称为CMM-GMM。CMM-GMM能够克服短文本的特征稀疏、低频等问题,更加充分地挖掘主题模型的结构信息,通过假设生成过程的基本单位为文档,能够将文档最终选择的主题直接作为其归属的簇,得到一组聚类结果。CMM-GMM具有很快的收敛速度,并且能够很好地平衡聚类结果的完全性和同质性,我们在四个短文本数据集上做了大量实验,实验结果证明了模型的有效性。我们通过对CMM-GMM进行扩展性分析,发现该模型结构具有良好的一般化性质,能够将集成学习的思想蕴含在主题模型的生成过程中。