基于自动化测试的反爬虫技术研究——以天猫平台为例

来源 :现代计算机(专业版) | 被引量 : 0次 | 上传用户:jeans
下载到本地 , 更方便阅读
声明 : 本文档内容版权归属内容提供方 , 如果您对本文有版权争议 , 可与客服联系进行内容授权或下架
论文部分内容阅读
随着大数据、云计算、移动互联网等新兴信息技术地快速兴起,人们工作生活对互联网的依赖逐步加强,越来越多用户行为数据、发表意见评论数据分散在互联网上。如何有效地采集这些数据,是分析、挖掘数据的前提。传统爬虫方式通常是从一个节点开始,盲目地、发散式地扩张遍历网页来获取数据,这种方式一方面近年来受到反爬虫技术的限制,另一方面获取数据的效率和质量偏低。在深入研究天猫平台网站结构的基础上,采用自动化测试技术模拟人浏览网页的方式,结合电商平台的搜索引擎有效地避开反爬虫技术地限制,采集到的数据准确率达到96%以上,能够满足实际科研、工业中数据采集分析的要求。
其他文献
用线段图分析应用题,把应用题的条件、问题以及它们之间的关系用线段图展现在学生眼前,使数量关系直观、形象地显示出来,有利于观察和分析,开拓学生的思路,容易找到解题的途径,常常
给出了线性定标和非线性多点定标的具体算法,并且应用加拿大BOMEM公司的MR-154傅里叶变换红外光谱仪,液氮制冷型中红外MCT探测器测量了中国科学院上海技术物理研究所研制的HF
目的:分析缬沙坦分散片联合美托洛尔治疗原发性高血压合并冠心病的临床效果。方法:选取我院收治的68例原发性高血压合并冠心病患者随机分为观察组与对照组,每组34例,观察组采
"邮件群发极速王"是一款专业的邮件编辑群发工具,特别适合于发布商业信息、公司主页(可不要用它来收发垃圾邮件哟).它有以下特点:
期刊
随着建筑行业的快速发展,对建筑工程管理模工作提出了新的要求,而我国建筑企业在长期的发展过程中,思想观念固定,在建筑工程管理工作中还采用领导命令式的管理方法,造成建筑
川牛膝的主要混淆品为同属植物头花杯苋的根,研究报道其在性味和药理活性上存有明显差异,仅可作为地方习惯用药,不得代替川牛膝入药。但因头花杯苋外观形态上与川牛膝十分相
目的:比较牛膝生品、蒸馏水炙品及不同乙醇浓度酒炙品指纹图谱差异,研究不同乙醇浓度酒炮炙对牛膝饮片的影响。方法:采用HPLC,以岛津VP-ODS(4.6 mm×250 mm,5μm)为色谱柱,乙
目前,中国大学出版社的数字出版还处于"原版原式电子书"的浅层次运作上,仍然存在不少问题,无力应对数字出版的时代浪潮.本文从分析电子书出版中的问题入手,提出几个简单的应
本论文采用HPLC-MS方法对川牛膝(Cyathula officinalis Kuan)和麻黄(Herba Ephedrae)两种中药材进行了指纹图谱的检测方法研究,并根据质谱信息初步对部分峰进行了化学成分定
改革开放后,以邓小平为核心的党中央,在总结国内外历史经验的基础上,提出"建设有中国特色的社会主义"的科学命题,提出社会主义初级阶段论、社会主义本质论、改革开放论、社会