论文部分内容阅读
随着网络信息资源呈几何级数增长,使用传统搜索引擎技术准确、快速地查找所需信息也变得越来越困难。面对每天海量递增的数据量,通用搜索引擎(又称为水平搜索引擎)很难及时地更新索引数据库;面对数以亿计的网页通用搜索引擎很难深入抓取信息。针对通用搜索引擎存在搜索不够快速、不够深入的缺点,新一代搜索技术—垂直搜索引擎应运而生。垂直搜索是针对某一个行业的专业搜索引擎,是搜索引擎的细分和延伸,是相对通用搜索引擎的信息量大、查询不准确、深度不够等问题提出来的新一代搜索引擎服务模式。通过针对某一特定领域、某一特定人群或某一特定需求提供有一定价值的信息和相关服务。与通用搜索引擎的信息采集技术不同,垂直搜索引擎的网络蜘蛛(又称为网络爬虫)仅采集与主题相关的信息。通过对网页的主题相关度进行预测和判断,专业网络蜘蛛在爬行时避开了大量主题无关的区域。由于只采集主题相关的网页,垂直搜索引擎在查询的准确率和效率上都有显著地提高。本文首先介绍了垂直搜索引擎技术的研究现状和发展方向,然后重点研究了垂直搜索引擎的主题搜索策略和主题相关度判别算法;在分析了、阐述了通用搜索引擎与垂直搜索引擎在系统架构、工作原理、关键技术等方面的不同特点基础上,对博客垂直搜索引擎核心模块—索引及检索模块进行设计;并对博客垂直搜索引擎系统的具体实现和实施做了详细地描述,测试的结果验证了本论文设计的博客垂直搜索引擎具有良好的搜索效果。本文创新点是:(1)根据基于主题的垂直搜索网络爬虫原理自主开发出MySpider网络爬虫,它具有多线程并发能力,可以高效的地下载网页,同时它基于TopicPageRank的抓取策略可以对要抓取的网页进行主题相关度的判别,从而决定是否下载该网页;(2)为提高用户检索效率,制定了相应的索引缓存策略。本论文的项目成果,为基于主题的垂直搜索引擎技术的进一步发展、加强基于主题的信息检索能力、进一步改善信息检索水平、更好地利用海量信息提供了一定的帮助,并做了有益的探讨。