信息主题的抽取是快速定位用户需求的基础性任务,本文主要研究了文本主题词的抽取算法。词汇的权重计算是主题词抽取需要解决的最基础、最关键的问题,本文计算词汇权重时通过互信息构建共现词对,然后与词频、词性、词位置信息非线性组合,得到文档-共现词矩阵。借助潜在语义分析(Latent Semantic Analysis,LSA)模型中的奇异值分解(Singular Value Decomposition,SVD)后求得潜在语义空间的文档相似矩阵,经k-means聚类后选出互信息值最大的前几对共现词,作为该类文章的主题词。本文主要的研究内容和创新点如下。在词语信息量计算方面,传统TF-IDF(Term Frequency–Inverse Document Frequency)算法忽略了词性、词位置、词长度等词特性,这样的词权重并不能精确衡量词语对于文本的贡献度。所以本文首先考虑词性,在大量语料库的统计中发现名词、动词、形容词、副词四大主要词性,各自的百分比依次为61.98%、29.29%、3.82%、5.01%。基于这个比例改进传统的TF-IDF算法,这就是本文中提出的POS_TF-IDF算法,即基于词性的TF-IDF算法。BOW(Bag of Words)模型忽略了词语之间的相关性,为了弥补这个缺陷,本文提出将共现词考虑在内的词权重计算方法。本文中共现词的相关性贡献度用信息论的互信息计算,并论证了互信息计算共现词的正确性和合理性。此外选取文本段落作为窗口大小,共现词对出现在段落首句、尾句、中间句不同位置时,对应权重各不相同。本文综合考虑词性、共现词、词位置因素,提出COVSM模型。该模型中词权重的计算既弥补了传统TF-IDF算法孤立计算词信息的不足,又添加了词性影响因素。本文选取LSA模型抽取主题词,LSA模型的关键是SVD,本文讲解了SVD分解的数学理论,并论证了在文本分析中的物理意义,说明了文档相关性的左奇异矩阵和词汇相关性的右奇异矩阵。本文最后采用k-means算法对文档相关性矩阵聚类后,在同类文章中取词汇权重最高的前三个作为主题词抽取的结果。实验结果证明该算法抽取主题词的正确性。