初学python3爬图,简单易懂。

初学python,在网上搜了一堆python3爬图的的demo,可能是我的运行方式不对,要么爬不下来,要么不是自己想要的。所以就目前所学,自己整理了一下写了个初级的。大神多指教,谢谢

目标网站摄图网http://699pic.com/photo-148087-6-16.html


# -*- coding: utf-8 -*-
import os
import  time
from urllib import request
import requests
from lxml import etree
from urllib.parse import quote 
import  string

headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36'}
# url = 'http://699pic.com/photo-148087-6-2.html'  			 	#目标网站
sel='//div[@class="list"]/a/img/@data-original'  				#固定规则的css选择器                                          
#'http://699pic.com/photo-148087-6-16.html'
def save_img(sel):
    for num   in  range(1,17):   								#迭代页数
        url='http://699pic.com/photo-148087-6-%s.html' % num
        count=0
        url_cont = quote(url, safe = string.printable)
        img_page = requests.get(url=url_cont, headers=headers).text #网站源码
        img_list =  etree.HTML(img_page).xpath(sel)  				#使用xpath中和css选择器匹配任意属性
        downloadURL=r'C:/python/py_images/'      					#保存路径
        dir='py_images'                      						#文件夹目录
        if not os.path.exists(downloadURL):							# 优化,如果存在
            os.makedirs(dir)
        else:
            print('文件已经存在!,z正在重新下载')

        for imgSrc in  img_list:                					#迭代每一页的图片
            img_url = imgSrc
            count=count+1   										#计数加1,作为图片名字    
            img_name= '%s%s.jpg' % (num,count)  					 #图片名字
            img_locohost = '%s%s' % (downloadURL,img_name)
            with open(img_locohost, 'wb') as f:   
                f.write(requests.get(url=img_url, headers=headers).content)
                time.sleep(1)
                print('下载第%s页的第%s张图片' % (num,count))        

if __name__ == "__main__":
    save_img(sel)

此方法原理是使用css匹配页面的img元素,拿到url地址,然后存本地。只爬了1-16页面的内容,有兴趣的同学,可以尝试其他方法。

此文章仅供学习参考。

你可能感兴趣的:(python,初学python3爬图,简单易懂。,python3爬图,python3)