汽车之家网站为例-爬虫的编写,爬取图片

                                  汽车之家图片的爬取

      汽车之家有很多汽车的点评、价格、图片等信息,那么怎么才能编写一个爬虫来获得我们所需要的信息呢,很简单,两个工具便可以了,一个网页解析工具requests,一个正则匹配工具re,下面以Python语言编写爬虫。

首先在火狐或者chrome浏览器下打开汽车之家的网页,然后点击小型车,得到:

汽车之家网站为例-爬虫的编写,爬取图片_第1张图片

关闭小型车选项,得到全部车型,并且用F2 打开开发者选项

汽车之家网站为例-爬虫的编写,爬取图片_第2张图片

可以看到下面有几个html结尾的文件,那就是我们需要的,点击相应的网址,可以在其右侧得到我们需要的URL地址,根据这个地址便可以利用Python的包进行网页内容的爬取了

汽车之家网站为例-爬虫的编写,爬取图片_第3张图片

  有了URL下面进行爬虫的编写:

import requests
import re

brand['A','B','C','D','F','G','H','J','K','L','M','N','O','P','Q','R','S','T','V','W','X','Y','Z']

url="https://www.autohome.com.cn/grade/carhtml/B.html" #以B brand为例

response=requests.get(zg[1])
response.encoding='gb2312'

html=response.text

   打印上述得到的html会得到这样的信息:里面有很多以B开头的车型,奔驰,宝马,宝骏等等。。。

汽车之家网站为例-爬虫的编写,爬取图片_第4张图片

    接下来还是通过查看网页车型图片的html地址,然后在上述的文件中进行提取:

img_url=re.findall(r'href="//car.autohome.com.cn/pic/series/(.*?).html#pvareaid=103448"', html) 

结果:

汽车之家网站为例-爬虫的编写,爬取图片_第5张图片

    接下来的工作就是讲提取到的信息和网址进行拼接以及读取解析操作,就不一一展开了。直接上代码

img_url_1 = 'https://car.autohome.com.cn/pic/series/' + img_url[1] + '-1.html#pvareaid=2042220' #其中-1是车身外观 10是内饰,自己去网页看源代码.......

response_1=requests.get(img_url_1)

html_2=response_1.text
img_url_2=re.findall(r'

至此为止,最后在本地查看保存成功的文件便可。

 

注:根据不同的需求,方法相同,爬取不同的数据。

 

 

 

 

 

 

 

 

你可能感兴趣的:(others)