基于Scrapy框架的爬虫设计

来源 :软件导刊 | 被引量 : 0次 | 上传用户:LI0888888
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
利用Python编程语言的Scrapy框架,为猫眼网站设计一个网络爬虫程序,对猫眼网页中《复仇者联盟4》的用户评论进行抓取。对抓取下来的网页信息进行信息提取,并将有用信息转换为dataframe格式存储到csv文件中;再将csv文件中的数据通过Pandas库进行提取排列,并利用Pyecharts库生成可视化图表的html页面;最后修改url中的setoff属性,通过改变starTtime的值,成功获取了更多评论。结果表明,比正常获取评论数的最大值990条多了16倍。
其他文献
目的探讨血浆同型半胱氨酸(Hcy)水平与急性心肌梗死(AMI)患者远期发生主要心血管不良事件(MACE)的相关性。方法连续纳入2012年3月至2014年12月该院心血管内科住院治疗的AMI患
5月中下旬,正当春夏荒的艰难时期,省民政厅厅长、副厅长、党组成员四人分别率领四个工作组,深入到永丰、波阳、南城、南康等县、市的乡村,一方面进行农村救灾扶贫互助储金会
网络最大流理论是图论研究中的一项重要内容,随着科技快速发展,尤其是计算机科学技术的日新月异,人们对于网络传输、交通路网设计、物资调动、图像处理等问题越来越关注,而网络最
人体内蕴藏着十分丰富的生物电信号,心电信号是人体最重要的生理信号之一,是心脏电活动在人体体表的表现,能够较准确的传达出被测者的生理状况。本文通过编程实现了对QRS波群
<正>【本刊讯】9月23日,"伟大历程辉煌成就——庆祝中华人民共和国成立70周年大型成就展"开幕式在北京展览馆举行。中共中央政治局常委、国务院总理李克强出席开幕式并讲话,
‘赤霞珠’1892年引入我国山东、河北等地栽培。喀左县课题组于2002年考察,2005年从河北昌黎引进。经几年的试栽、区试、性状及适应性调查研究,结果表明该品种结实能力强,结果枝
氨己烯酸(Vigabatrin,VGB)为抗癫痫药物,由欧洲Sanofi-Aventis制药有限公司开发研制。其作用机制为,不可逆地与伽马氨基丁酸(gamma-aminobutyric acid,GABA)氨基转移酶(GABA-
目的评价二甲双胍与2型糖尿病患者胰腺癌发病风险的关系。方法计算机检索Pub Med、EMBase、Wed of Science、the Cochrane Library、CNKI全文数据库、万方数据库以及中国科技
为了适应教育综合改革新形势的要求,进一步推进高中地理课堂教学改革,以"外力作用与地表形态"为例阐述创设情境、自主学习、合作互学、展示激学、反馈运用的"五环导学"的操作
期刊