爬取python书籍一百页

概要:利用selenium库爬取京东python书籍一百页存入csv

如果不知道selenium的基本操作,这里献上链接:selenium的使用(有点意思)

1、分析页面。

我们以前利用requests库等获取获取很麻烦。

利用selenium库可以省很多事情,我们只需要获取点击到下一页,

爬取我们需要的商品信息,存入csv。

所以我们要写三个方法来实现。

2、实现获取商品信息get_products方法。

我们需要抓取,编号,书名,价格,评价数量,出版社,

我们打开京东页面,切换到开发者模式,如图:

爬取python书籍一百页_第1张图片

所有的商品都有一个类名:gl-item

data-sku为一个编号,后面的class名需要用到。

价格的class是J_加上编号

评价数的id是J_comment_加上编号

书名的class是p-name

出版社的class是curr-shop

于是乎我们可以实现get_products获取商品的信息:

爬取python书籍一百页_第2张图片

3、实现点击下一页

爬取python书籍一百页_第3张图片

4、存入csv

爬取python书籍一百页_第4张图片

存数据链接:数据的存储(一)

5、完咯

你可能感兴趣的:(爬取python书籍一百页)