基于Nutch的搜索引擎系统的研究与实现

被引量 : 7次 | 上传用户:juyuyong
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
在已经到来的Web 2.0时代,搜索引擎在互联网上扮演了越来越重要的角色,而日益增多而且成熟的互联网用户对搜索引擎的要求也越来越高,其功能也在不断丰富和完善当中。Nutch搜索引擎系统就是一个优秀的开源搜索项目,本文正是在Nutch的基础上,探讨了搜索引擎的分布式实现。本文对搜索引擎的一般架构、原理、组成、工作流程作了较为细致的研究。搜索引擎一般由数据抓取模块、索引模块、检索模块组成。本文在对Nutch系统各组成部分进行深入研究的基础上,提出了分布式搜索引擎平台的具体设计方案。结合Hadoop分布式计算框架,对Nutch的爬虫做分布式改造,使得在数据抓取过程中,能够并行高效的完成抓取任务;同时,对数据的索引也是并行进行的;在检索时,通过Web服务器提供统一的检索入口,通过IPC机制把用户的检索请求发送到各子节点,各子节点检索自己本地的索引数据,分别返回给Web服务器。另外,结合中文搜索引擎用户的实际需求,对Nutch的默认分词模块做了改进。通过Paoding分词组件的加入,在一定程度上改进了搜索引擎检索的效果。通过对开源分布式集群监控项目ganglia的搭建,实时监控Nutch集群的工作状态,及时对集群做出调整,很好的辅助了Nutch集群的工作。
其他文献
我国的教育心理学初期受西方先进的教育心理学的极大影响,结合着本土传统的教育心理学思想,发展势头良好,然而随着极度"苏化"和十年动乱的灾难期的阻碍,我国教育心理学的发展
<正>计算机的普及应用给教育教学改革带来了巨大的飞跃。教育的信息化是信息时代教育的显著特点。教育由一支粉笔、一块黑板的课堂教学开始走向"屏幕教学",由讲授型教学向创
会议
目的观察加味八珍汤联合XELOX方案治疗进展期胃癌的疗效。方法对照组选取21例采用单纯XELOX方案化疗,治疗组选取22例,在对照组的基础上口服加味八珍汤。结果治疗组在疾病的控
20世纪80年代以来,伴随着我国工业化和城市化步伐的加快,导致农村集体土地被大量征用,从而产生了失地农民这一新的社会弱势群体,在我国,由于长期以来城乡二元经济结构的制约,
“废池乔木”何以“厌言兵”甘肃永登县一中王仁武姜夔《扬州慢》一词中有“自胡马窥江去后,废池乔木,犹厌言兵”三句。前一句写扬州遭破坏的原因,后两句写战乱的惨状。但“犹厌
韩楼村位居内陆经济欠发达的豫中地区,由于地处“中原足天下丰”的黄淮海粮油生产基地,这坦的养殖业起步较早,因而传统的生猪养殖业在当地很早就出现了演变和分化。这种分化
在传统的劳动力转移计量中,将所接收到的教育程度作为计算劳动力转移总量,然而,这却不能解释为什么世界上人口最多的国家却不是经济发展最好的国家。这就是因为,影响劳动力转
农村公共产品的供给与管理是乡村治理的重要内容,其形式直接关系到治理效果,进而影响到农民生活。在实际情形中,农村公共产品的供给与管理形式有“自发性治理”和垂直管理两
在社会经济的不断发展下,村镇的建设已经成为影响国家后续经济发展主要因素,受到各方的广泛关注,作为农业大国,我国有数量众多的农村人口,在进行村镇规划建设时还有许多的方
健全完善的社会保障体系,是一个国家能够保持和谐稳定发展的助推器。进入21世纪以来,我国也逐步加快了农村社会保障体系的建设步伐,逐步构建出以农村最低生活保障制度、农村