二手房的垂直搜索引擎的设计与实现

来源 :西南交通大学 | 被引量 : 0次 | 上传用户:zwb19860
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着互联网的飞速发展以及大数据的到来,各个领域充斥着大量的信息。如何检索出有用的信息成为了各领域的首要任务。因此,结合垂直搜索引擎技术开发出二手房的搜索引擎平台成为了该领域的亟需解决的问题。主题网络爬虫策略融合了网页采集、网页分块、主题相关度判定以及信息提取等技术。该策略在领域网页采集方面有着明显的优势,如具有很高的网络资源利用率以及信息采集的准确率。本文在考虑网页的相关度计算中,融合了链接所在的内容块与主题的相似度,通过对链接的相似度与网页内容的相似度的权重组合,来过滤与主题无关的网页,同时链接与主题相似度也能够降低爬虫服务对无关链接的访问量。本文结合全文检索框架Lucene、分布式爬虫框架以及HBase集群开发了一套二手房的垂直搜索引擎。该爬虫框架实时抓取国内多个二手房网站数据,目前已经抓取的网页库达到千万级的二手房数据,并存储到HBase集群,可用于数据分析以及挖掘等。该搜索引擎融合了同义词以及Rocchio相关反馈算法对原始查询的扩展,进而优化Lucene的默认查询,并提供了域查询以及模糊查询等多样化的功能。最后对二手房的垂直搜索引擎中的网络爬虫以及检索模块进行了功能测试,并与通用搜索引擎的检索效果进行对比实验,本系统的检索结果具有很高的准确率。同时也对扩展查询与域查询进行了测试,结果表明扩展查询具有更高的召回率。
其他文献
肿瘤热疗,即应用热能治疗肿瘤的一种方法,是继手术、放疗、化疗、生物等疗法之外的又一种重要的肿瘤治疗方法。本文概述了热疗的基本概念,介绍了热疗对肿瘤细胞的直接杀伤、
近年来,我国经济迅猛增长,但随之而来的环境污染、资源短缺等一系列问题愈演愈烈,污染防治也成为我国全面建成小康社会的三大攻坚战之一。环境是人类赖以生存和发展的基础,环
银行卡支付功能的复杂化、多样化,金融IC卡广泛应用,对POS的计算能力、功能要求特别是安全性要求越来越高,而且POS机大都置于客户收款处,其应用环境较为恶劣,面临的威胁和攻
计划生育政策自制定执行以来,对解决中国的人口问题和促进社会经济的发展起到了积极且至关重要的作用。但近年来,计划生育政策带来的负面影响逐渐显现。2015年,十八届五中全
随着我国市场经济的发展与完善,我国地勘单位的企业化管理模式也在不断深化,市场程度不断提高,从而对地勘单位的成本管理提出了更高的要求。如何有效地加强项目成本管理,降低
本文综述了磨损颗粒诱导的假体周围骨溶解的相关免疫学研究现状。笔者广泛查阅了近年国内外与磨损颗粒诱导的假体周围骨溶解相关免疫学研究的相关文献,进行总结分析后发现,在
以信息技术为主导的知识经济向传统的知识型人才提出了挑战,呼唤现代教育开展创业教育,研究创业教育课程,培养创新型人才。创业教育实际上是人才观的转变和教育观的革命,通过
回顾我国高等学校公共体育课教材出版的历史,结合当下高等学校公共体育课教材出版繁盛背景下存在的一些突出问题进行探讨,并从建立高等学校教材出版的准入机制,加强对高等学
在经济的发展、人们生活水平逐渐提高的推动下,大众不仅越来越重视物质方面的享受,对精神方面的享受有了更高的追求。比如在居住环境的改善中,园林绿地的建设需要不断符合时
目的探讨匹多莫德联合孟鲁司特对咳嗽变异性哮喘(CVA)患儿细胞免疫功能的影响及疗效。方法选取2013年1月~2014年4月在温州医科大学附属义乌医院儿科门诊就诊的CVA患儿84例,随