python-GlidedSky爬虫闯关第二关

第二关跟第一关一样求数字总和,不过这次分为了1000页的数字,一开始想着继续用selenium来进行爬取,然后发现在爬取的途中,浏览器可能会没响应到,数据会丢失一部分,后来就改用requests来爬取

selenium:
1.使用selenium进行账号的登录
2.进行点击进入到爬取的页面,然后进行数据的收集,点击下一页继续进行数据收集
3.转换整形进行计算

requests:
1.设置cookies
2.寻找数字的数据解析器进行解析保存,找到下一页的url进行跳转
3.转换整形进行计算

你可能感兴趣的:(爬虫)