爬虫-煎蛋MM图

之前学了用爬虫抓糗百的段子,但是呢,爬段子有什么好爬的,这次我们来学怎么爬MM图,然后自动下载到我们的文件夹中。

先上代码
爬虫-煎蛋MM图_第1张图片
爬虫-煎蛋MM图_第2张图片

这里主要用到urllib中的urlretrieve()函数,用这个函数将远程数据下载到本地。我们说,之前就说过,上网是为了获取资源,而资源的命名就是通过URL的,因此我们只需要抓取图片的URL,保存到本地就行了。

urlretrieve(url, filename = None, reporthook = None, data = None)
url:资源的url
filename:本地资源路径(绝对路径),即你把资源下载到哪
reporthook:这个是一个回调函数,当连接上服务器、以及相应的数据块传输完毕时会触发该回调,我们可以利用这个回调函数来显示当前的下载进度。
data: 指post到服务器的数据

其他的改动就是正则表达式的匹配模式改一下,我这里的pattern不是很精准,因此用if来辅助我排除不需要的项,把需要的放在imglist列表中。之后就依次下载就行了。这个是简易版的,只爬了一页,比较粗糙。之后会增加点功能,像前面糗百那样

你可能感兴趣的:(爬虫)