最近在学习python,顺便写一个爬取网页中图片的程序练练手。
主要分为两个过程:
第一,从给定域名的网页中爬取图片的链接
第二,读取链接对应的图片,保存到本地
第一个过程需要导入utllib包,在python2.7环境下使用 import urllib2 即可
在python3.X 之后的版本中,由于没有了urllib2模块,所以导入的是 import urllib.request
在这里,我的环境是 python 2.7
import urllib2 # 导入urllib2模块
req = urllib2.urlopen('https://www.nuomi.com/?cid=002540')
buf = req.read()
import re # 导入re模块
listurl = re.findall(r'http:.+\.jpg',buf) #正则表达式,匹配图片格式
print listurl # 将图片的格式放入list中
最后就是将list中的链接读取出来,将图片保存到本地即可。
源代码:
import urllib2 # 导入urllib2模块
req = urllib2.urlopen('https://www.nuomi.com/?cid=002540')
buf = req.read()
import re # 导入re模块
listurl = re.findall(r'http:.+\.jpg',buf) #正则表达式,匹配图片格式
print listurl # 将图片的格式放入list中
i = 0
for url in listurl:
f = open(str(i)+'.jpg',"wb") #打开文件
req = urllib2.urlopen(url)
buf = req.read() #读出文件
f.write(buf) #写入文件
i = i + 1 #更改文件名