面向博客领域的垂直搜索引擎的研究与实现

被引量 : 16次 | 上传用户:newrevon
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络信息资源呈几何级数增长,使用传统搜索引擎技术准确、快速地查找所需信息也变得越来越困难。面对每天海量递增的数据量,通用搜索引擎(又称为水平搜索引擎)很难及时地更新索引数据库;面对数以亿计的网页通用搜索引擎很难深入抓取信息。针对通用搜索引擎存在搜索不够快速、不够深入的缺点,新一代搜索技术—垂直搜索引擎应运而生。垂直搜索是针对某一个行业的专业搜索引擎,是搜索引擎的细分和延伸,是相对通用搜索引擎的信息量大、查询不准确、深度不够等问题提出来的新一代搜索引擎服务模式。通过针对某一特定领域、某一特定人群或某一特定需求提供有一定价值的信息和相关服务。与通用搜索引擎的信息采集技术不同,垂直搜索引擎的网络蜘蛛(又称为网络爬虫)仅采集与主题相关的信息。通过对网页的主题相关度进行预测和判断,专业网络蜘蛛在爬行时避开了大量主题无关的区域。由于只采集主题相关的网页,垂直搜索引擎在查询的准确率和效率上都有显著地提高。本文首先介绍了垂直搜索引擎技术的研究现状和发展方向,然后重点研究了垂直搜索引擎的主题搜索策略和主题相关度判别算法;在分析了、阐述了通用搜索引擎与垂直搜索引擎在系统架构、工作原理、关键技术等方面的不同特点基础上,对博客垂直搜索引擎核心模块—索引及检索模块进行设计;并对博客垂直搜索引擎系统的具体实现和实施做了详细地描述,测试的结果验证了本论文设计的博客垂直搜索引擎具有良好的搜索效果。本文创新点是:(1)根据基于主题的垂直搜索网络爬虫原理自主开发出MySpider网络爬虫,它具有多线程并发能力,可以高效的地下载网页,同时它基于TopicPageRank的抓取策略可以对要抓取的网页进行主题相关度的判别,从而决定是否下载该网页;(2)为提高用户检索效率,制定了相应的索引缓存策略。本论文的项目成果,为基于主题的垂直搜索引擎技术的进一步发展、加强基于主题的信息检索能力、进一步改善信息检索水平、更好地利用海量信息提供了一定的帮助,并做了有益的探讨。
其他文献
通过调查株高、茎粗、分枝数、叶片数、红叶片数等生长指标,对4种不同浓度肥料的施用对一品红生长发育的影响进行了对比试验。结果表明:4种不同浓度肥料的施用对一品红生长发
“两学一做”的基础在学,即深化党的理论教育;“两学一做”的关键在做,即提高党员的执行力。新形势下,以“两学一做”学习教育为契机助推党员的执行力建设,要强化执行理念,增强党章
1观察植物细胞的后含物植物细胞在生长分化的过程中,及成熟后由于代谢活动产生的旷藏物质或废物统称为后含物。后含物有的存在于液泡中,有的存在于细胞器内。在后含物中主要是
本文通过陈满案申诉的过程反映了我国目前冤案申诉中存在的种种问题,制度上和司法者本身存在的问题交织纠缠使得冤案的纠正困难重重。陈满因杀人放火罪被判死缓后经历了曲折
目的本研究在对我国《执业医师法》及配套法规、国外对执业医师管理的相关规定以及其他相关文献资料的研究基础上,通过对国内外医师的资格准入、执业规则、执业监管、法律责
在新课程改革背景之下,教学工作要求教师以学生为中心,围绕着学生综合素质提升、全面发展为中心来展开教学活动,不断挖掘学生内在潜能,让其能够迅速发展与进步。生物作为中学
随着企业竞争的加剧,顾客导向型运营模式已经成为企业发展的主流模式。世界级企业中顾客满意度被作为评价和影响企业竞争力的最重要指标之一。业务流程再造(BPR)作为应对日益
基于趋势类推的原理,以预测2018年春节期间负荷预测为例,介绍了实用化的节假日期间最大负荷、最小负荷预测方法及每日96点用电负荷曲线预测方法。实践证明本方法原理简单、操
最高人民法院、最高人民检察院《关于办理受贿刑事案件适用法律若干问题的意见》,明确规定了各种新型受贿刑事案件法律适用问题,解决了近年来司法实践中办理受贿案件经常遇到
无线Mesh网络是基于IP协议的无线宽带接入技术,它融合了WLAN和无线传感器网络的优势,支持多点对多点的网状结构,具有自组网、自修复、多跳级联、节点自我管理等智能优势以及