互联网的发展弱化了人类个体之间通信交流的距离感,同时人与人之间的交流方式也逐渐变得复杂。语言文字作为人类传达信息的重要载体,随着互联网的发展其体量迅速增长,所承载的内容也呈现出丰富繁多的特点。主题模型作为自然语言处理中一项基础性的研究工作,具有数据降维、主题抽取的特性。为舆情分析,情感检测,信息索引等领域提供了重要的研究价值。主题模型发展之初是为了分析文本的语义信息。随着人类生活方式的转变,短文本如今被大量的存储在互联网中。其蕴含的商业价值和政治作用难以估量。短文本和长文本相比,由于数据特性的原因短文本中词的共现信息较少,所以将主题模型直接应用在短文本中会遇到数据稀疏的问题。本文研究分析了目前主题模型在短文本中应用遇到的问题,然后在词之间的语义关系提取上和主题模型的建模方式上提出创新。主要工作如下:1.针对目前短文本中难以提取语义信息的问题,本文提出了一种基于句法结构信息的词关系强度计算方法。首先将由句法结构信息构建的句法结构信息树按照粒度划分的思想划分其中包含的关系结构,分析出不同的关系结构和语义表达之间的联系关系。随后分析关系结构和语义之间的关系,最后提出具体的计算方法计算词关系之间的语义联系。实验结果表明该方法能够很好的凸显出词关系对语义的表达作用。2.为了应对主题模型遇到的建模假设问题和额外选用辅助数据库带来的主题不一致的问题,本文提出了一种融入句法结构信息的主题模型。该模型假设词之间的关联关系能够影响文本的生成。基于该假设主题模型能够在主题抽取时,根据词之间关系的强弱赋予其不同的采样概率。实验结果表明本文提出的模型在主题分离度和主题的连贯性上都有明显的提升。