论文部分内容阅读
人们通过互联网对同一主题进行搜索时,会通过链接展现出许多包含主题的相关网页,为了使用户更加准确地找寻到有用信息,或更快更方便地转移到相关感兴趣的话题,很好的维护与正确的识别这些有紧密联系网页是十分有意义的。目前众多网页集的维护还是通过人工方法进行,因此,更智能的识别技术被人们迫切需求。本文重点研究的是引入本体库,结合了语义信息的网页主题提取算法。利用WordNet本体库,进行关键词的语义相似度的计算,然后进行关键词语义级别的合并,对整个文本信息进行语义抽象归纳,从而达到更准确的主题抽取的效果。此方法改进了现有的采用人工方法或者词频统计的方法进行主题提取的不足,使搜索变得自能化,使搜索结果更加准确。此方法的实现分为以下几个步骤。首先,将获取的样本网页进行过滤处理,清除与主题不相关的信息,如网页包含的图片、广告及导航链接等信息,这些信息的去除使得在进行主题抽取的过程不会受到这些对主题提取贡献不大的信息的干扰,从而使得最终主题的提取更加准确。然后将其转化为文本信息,因为在后续的操作中,直接进行页面的聚类计算量是很大的,并且效率也不高。然后,将初步处理后得到的文本信息进行共指消解和分词处理。引入共指消解系统使得出现频率较高的代词很好地解析出来,对主题抽取的准确性有很大的帮助。采用Lucene进行分词操作,可以分辨出名词短语,如人名、专有名词,并且还提供为单词建索引的功能,提高了主题提取的效率和准确性。其次,引入WordNet,利用改进的Lesk算法计算语义相似度,然后进行网页的聚类,使得拥有不同主题的网页聚集到不同的类中,从而减少不同主题的网页产生的噪声。利用主题词之间的语义相似度,不只是单纯的计算关键字的内积,可以保证网页之间的语义信息得以保留。最后,利用改进的TF*IDF算法进行Web主题词的抽取,改进后的TF*IDF算法考虑到了特征项在类间和类内的分布情况,弥补了TF*IDF的不足,使之最终的主题词更加准确。最后通过实验证明了本文提出的方法是可行且有效的。