论文部分内容阅读
在当今信息爆炸的时代,海量数据不断涌现,而且这些数据仍在以每三个月增长一倍的速度持续增长着。因此,如果不借助有效的信息挖掘方法,这些异构海量数据将可能最终变成无人关注的数据垃圾。全文检索技术能高效的存储和管理这些异构海量数据。尽管全文检索引擎秉承了优良的架构,但在检索性能上还存在不足之处。针对全文检索引擎默认的相似性评分算法只考虑词频特征以及全文检索引擎现有检索精度较低这一缺陷,本文将分别从基于内容和基于结构这两个方面对现有的全文检索引擎进行改进。基于文档内容,本文从改进默认的相似性评分算法的角度出发,通过考虑查询词条在文档中的距离特征以改进全文检索的精确度和召回率。通常一篇文本文档只有一个主旨主题,且文档作者通常会以这一主旨主题为核心并从多个子主题或多个角度进行展开,基于这样的事实,本文从文档本身的结构特性出发,通过全面把握文档中各个局部意义单元及其之间的相互关系,使得改进的全文检索引擎在检索结果上具有更好的用户体验和针对性。因此通过考虑文本数据的距离特征和物理结构,并借此研究针对文本数据在分布式全文检索平台上的应用必将是一项非常有意义的研究探索。本文对基于内容与结构的文本挖掘方法及其分布式应用进行的主要研究工作如下:1、提出一种基于分词距离特征的句子相似度计算模型。首先,对查询串和文档进行数据预处理。其次,通过在文档中标识关键词和查询词条的位置,从而实现查询词条与关键词之间分词距离的计算,进而得出查询串和整篇文档的相似性评分。最后,将本文提出的算法应用到全文检索引擎默认的相似性评分算法中,并使用MAP,P@n指标进行评估。2、优化文本分割算法并将其分割得到的主题分片应用到一种能够提高精确度和查全率的检索模式中。首先对传统文本分割算法Text Tiling进行优化和改进。其次,利用改进的文本分割算法对文档进行切割操作得到主题分片集合。最后,通过在全文检索过程中考虑子主题结构特征以期改善信息检索的性能和用户体验。3、将改进的算法应用到分布式全文检索平台Solr Cloud中。首先,搭建一整套通过完全分布式实现的全文检索系统平台。其次,将基于分词距离特征改进的算法应用到全文检索引擎的核心组件中,从文本结构的角度出发,将主题分片应用到具体的全文检索操作中。最终实验表明,本文改进算法不仅使得全文检索操作在精确率和召回率方面得到优化,而且用户体验也得到了极大的改善。