校园BBS可定制爬虫的设计与实现

来源 :华中科技大学 | 被引量 : 0次 | 上传用户:xiomantou_3737
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着网络在我国的日益普及,对于乐于接受新鲜事物的青年大学生来说,网络几乎已经成为和衣食住行一样的“生活必需品”。与此同时,校园论坛也成为了学生们交流和表达意见的主要平台。为了及时的了解校园内的关注热点,校园网络信息管理系统的引用是非常有意义的。本文设计与实现的论坛爬虫系统是该系统的子系统,负责论坛数据的采集,为校园网络信息管理系统后续的数据分析提供数据源。传统的通用爬虫在爬取论坛时会遇到大量重复的链接,浪费资源而且效率低下;另一方面,已有的一些面向论坛的爬虫是为特定的用户量身打造的,仅作用于单个论坛。本文分析了多种论坛在结构上的差异,研究了现有的几种主流爬虫的工作特点和系统架构,提出了一个能够适应不同论坛的增量爬虫实现方案。并经过分析系统的需求,设计各个分模块,详细阐述各模块的具体实现细节。本文的主要工作包括:首先分析各论坛特点,抽取共性,剥离不同点,对不同风格的论坛确定爬取措施;其次根据板块的热度和论坛的特点,制定基于板块权重的增量爬取策略;最后,为了提高系统的通用性和灵活性,使用了XQuery模版的方式来解析页面,抓取正文内容。本文通过部署并运行测试爬虫系统,分析爬取结果,表明系统能够持续稳定运行,满足设计的需求,具有一定的可用性。
其他文献
目的:探讨雷公藤多苷联合免疫抑制剂治疗肾病综合征的临床疗效及安全性。方法:选取肾病综合征患者72例为研究对象。采用随机数字表分组法将其分为对照组和观察组,每组36例。所有
ue*M#’#dkB4##8#”专利申请号:00109“7公开号:1278062申请日:00.06.23公开日:00.12.27申请人地址:(100084川C京市海淀区清华园申请人:清华大学发明人:隋森芳文摘:本发明属于生物技
从南京新工集团主办、机床集团承办的”现代机床制造业发展及市场论坛”上获悉,南京机床产业正加大与全球顶尖企业的深度合作,未来计划建立国际机床产业园区。20世纪80年代,南京
强劲的需求与补贴的减少,将使国际市场上粮食价格上涨。据经合发组织在《1995—2000年农业展望》中的预测显示,到2000年没有补贴的小麦贸易将占世界贸易的66%,价格将由1990—1
这里发表一篇陈振濂教授的问答录,其中有两个关键词:一个是"新碑学",一个是"艺术化"。之所以称"新碑学",必然是针对旧有碑学理念及碑派书法创作而言;之所以称"艺术化"必然是
期刊
运用Abaqus有限元软件对康复器械用6061-T6薄板的MIG对接焊进行模拟,通过盲孔法测量实际焊接试样残余应力。研究了不同预热焊接工艺对铝合金焊接残余应力的影响。室温下的实
纵观历史上形态各异的货币体系,每一套钱币的产生都与当时的政治、经济、文化、艺术以及科技有密切关系。伪满洲国货币是日本军国主义侵占东北14年间,炮制傀儡政府建立殖民地金
如果没有较为完善的救济手段,没有相应的救济途径,宪法和法律规定的各项权利只能是一纸空文,难以实现。农民是社会的弱势群体,农民的权利容易受到来自外部的侵犯,并且基于各
晋江模式同苏南模式、温州模式、东莞模式一同构成了改革开放之后我国县域经济发展的四大模式,在我国县域经济发展当中起到了巨大的示范作用。本文以晋江政府在推动企业成功
基于可液化地基上三拱立柱式地铁地下车站结构非破坏性振动台模型试验,用光纤Bragg光栅测试模型结构中柱镀锌钢丝应变时程,用应变片测试对应位置处微粒混凝土应变时程;运用Ma