基于单词共现模式,传统主题模型能够从长文本数据中提取高质量的主题信息。对于短文本数据,文档的长度较短,单词之间的共现性信息较少,导致传统主题模型并不能很好地工作,无法从短文本数据中提取高质量的主题。从大规模文本数据中训练得到的词向量蕴含着丰富的语义信息,所以词向量可以作为一种外部信息来指导主题建模的过程,弥补短文本数据中单词共现性不足的缺陷。然而,词向量一般是从大型外部文本数据中训练得到的,其中包含的语义信息可能并不适用于主题模型的训练数据,现有的模型往往忽视了这一点。基于GPU-DMM模型的思想,本文提出了ECTM模型。该模型利用词向量得到单词之间的语义相似度信息,并使用训练数据中单词之间的PMI信息对单词间的语义相似度信息进行过滤。在模型参数求解的过程中,单词间的语义相似度信息可以进一步被采样器利用,提高主题语义一致性。但是ECTM模型中需要调整的参数较多,限制了其易用性,而且该模型假设每篇短文档包含一个主题,该假设在某些情况下是比较受限的。基于ECTM模型,本文进一步提出了IECTM模型,该模型减少了ECTM模型中需要调整的参数数目,并对ECTM模型的假设进行了松弛。在IECTM模型中,一篇短文档可以包含不止一个主题。由于短文档长度的限制,每篇短文档可能不会包含所有主题,主题的个数由文档的内容决定。为实现该效果,IECTM模型引入了spike and slab稀疏先验。本文在真实短文本数据集上进行了一系列实验来验证本文提出的ECTM模型以及IECTM模型的有效性,实验结果表明ECTM模型以及IECTM模型能够在大多数情况下从短文本数据中提取到高质量的主题信息,具有较高的可用性。