面向主题的网络爬虫系统功能模块设计探析

来源 :电脑知识与技术 | 被引量 : 0次 | 上传用户:zhangyong131420
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
爬虫策略是主题爬虫的核心模块,其策略的目的在于高效的抓取到更多与主题相关的页面,同时又过滤与主题无关的页面。该文主要对面向主题的爬虫项目需求进行研究,提出了分层的系统框架,并详细介绍了框架架构以及各个模块的设计,最后给出系统的运行结果截图,初步达到了预期的效果。
其他文献
K均值聚类算法是一种经典的数据挖掘算法,但该算法存在对初始值敏感且容易陷入局部最优问题,一定程度上影响分类结果的准确性。通过分析蚁群算法和粒子群算法,将两者混合算法
随着市场竞争力度的不断加大,各大企业纷纷采取措施以提高市场竞争力,财务内控管理作为保证企业拥有一个健康良好的内部财务环境的重要措施,还能为企业的对外发展扫除一些障
目的观察中药复方中不同剂量含碘中药(海藻、昆布)复方对实验性自身免疫性甲状腺炎(AIT)大鼠甲状腺自身抗体(TGAb、TPOAb)、凋亡调控蛋白Fas、FasL、Bcl-2、Bax的影响,并筛选
用超声波化学法合成了纳米尖晶石型铁酸镁(MgFe2O4)粉末,并用X射线衍射(XRD)、电子透射电镜(TEM)、红外光谱对产品的纯度、结晶度,粒径以及内部形态及结构进行了分析表征.结
引言海域勘界,即勘定海域行政区域界线。具体地讲,就是指国务院依法划定相邻或相向两个沿海省级人民政府的海域行政区域界线,并载明于有关的文件、资料和图件中的活动。这是
本文通过比较液压油缸不同的缸口密封结构型式和缸口零部件表面粗糙度,结合直升式平面闸门不同的承吊方式,分析了太浦闸液压启闭机油缸缸口漏油及振动与噪音问题严重的原因,提出
包装材料的发展与人类文明发展和技术进步紧密相关。随着现代工业的发展,一批工业化产品成为常用的包装材料,早在19世纪就已经开始用工业化产品(如:纸、纸板、金属板材、玻璃
介绍了专利技术-摆动活齿减速器的独特结构,关键技术,传动特点,应用前景,市场预测及生产设备。
党校(行政学院)要强化决策咨询职能,充分发挥思想库特色,积极为党委和政府的科学决策服务。结合校院实际,从"争取党委支持、打造咨政平台、注重交流合作、完善评价体系、加强
随着经济建设的不断推进,社会对资源的需求进一步上涨。科学技术的进步以及经验的总结等,为非金属地质勘察工作提供了有用的工作手段和方法,在实践中表现出突出的作用,但也有亟待