基于流水线负载平衡模型的并行爬虫研究

来源 :计算机工程 | 被引量 : 0次 | 上传用户:pb2001
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
针对并行爬虫系统在多任务并发执行时所遇到的模块间负载平衡问题,提出流水线负载平衡模型(PLB),将不同的任务抽象为独立模块而达到各模块的处理速度相等,采用多线程的方式实现基于PLB的并行爬虫,根据线程的休眠和缓冲区的变化对线程数量进行动态调整以实现PLB。实验结果表明该方法具有良好的运行效率和稳定性。
其他文献
融资困难,是中小企业发展的瓶颈。由于其自身经营风险较大,商业银行为了控制风险,针对中小企业所设立的信贷门槛较高,我国中小企业又无法达到商业银行的各项苛刻的要求,所以
目的:探讨爱全乐加异丙肾上腺素联合雾化吸入治疗小儿支气管哮喘的有效性和安全性。方法:将42例哮喘急性发作患儿随机分为爱全乐与异丙肾上腺素联合吸入组、单用异丙肾上腺素吸
回 回 产卜爹仇贱回——回 日E回。”。回祖 一回“。回干 肉果幻中 N_。NH lP7-ewwe--一”$ MN。W;- __._——————》 砧叫]们羽 制作:陈恬’#陈川个美食 Back to yield
会议
本文研究的主要问题是中国商业银行市场结构、效率与银行绩效的实证分析。而国内外关于市场结构、效率与银行绩效水平关系的理论和经验研究非常丰富,概括起来主要有市场力假
春晚百家办,百家办春晚。2013的蛇年可谓是春晚的一次盛宴。央视、江苏、东方、北京、安徽、湖北、河南、广西、黑龙江等卫视以及16个省会城市联合办的春晚,在小年、除夕、初
优化课堂教学,充分发挥学生的主体作用,使学生掌握适应时代发展需要的基础知识和基本技能,实现学生英语综合素质的提高,这是高中英语课程的目标。本文试从如下几方面加以论述:(1)激
摘要:实验教学对于当前初中物理课程的开展有着重要作用,教师应当不断创新改革教学理念以及相应的教学方式,不断发现物理实验的实际运用操作,对于学生自主学习的提升有着强化作用,更好地为学生营造良好的学习氛围,为社会提供全面型知识人才。本文对初中物理实验教学与学生创新能力的培养进行了探讨。  关键词:初中物理;实验教学;学生创新能力;培养策略  在物理教学中,实验是极为重要的一部分,对物理教学起着非常大的
随着城市在国际经济中的地位加强,未来全球的发展将主要依赖于数以百万计的生机勃发的城市增长,国家的竞争突出表现为城市的竞争。面对如此激烈的国内外竞争,每一个城市要抓
针对浙南地区山岭地貌,山区公路高陡边坡分布广泛的特征,结合美丽乡村建设需求,在传统方案基础上结合生态混凝土进行边坡防护,在确保防护层足够强度及耐冲刷性能的基础上,研
目的了解舟山市定海区流动孕妇膳食营养的知识、态度、行为(知信行)状况及影响因素,为制定针对性的健康教育提供参考。方法选取在定海区盐仓街道社区卫生服务中心定期产检的4