爬取猫咪交易网

爬取猫咪品种,价格等在售数据

代码展现:爬取猫咪交易网_第1张图片

爬取猫咪交易网_第2张图片 

具体代码:

import requests
import re
import os
filename = '声音//'
if not os.path.exists(filename):
    os.mkdir(filename)
def down_load(page):
    for page in range(page):
        page = page+1
        url = 'https://www.tosound.com/search/word-/page-'+str(page)
        headers = {'User-Agent':
                                       'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/118.0.0.0 Safari/537.36',
                                   }
        response = requests.get(url=url,headers=headers)

        # print(response.text)
        href = re.findall('

',response.text)
        title = re.findall('.*?',response.text)

        for href,title in zip(href,title):
            print(title,href)
            content = requests.get(url=href,headers=headers).content
            with open(filename+title+'.mp4',mode='wb') as f:
                f.write(content)
down_load(4)

结果展现:爬取猫咪交易网_第3张图片

反思与总结:1.如何用正则匹配html中换行的数据,如fa0b77da78984403aafb21cbeedbb4be.png 

我想要匹配电话,却总是空,把上面的连在一起匹配,也是一样,是换行符的问题吗?

 2.像这种抓爬静态页面,零碎的信息,用css选择器更好!爬取猫咪交易网_第4张图片

3.这一案例属于两静态 页面抓取,信息都在页面代码中,抓包容易,难点在于如何解析数据。

 

你可能感兴趣的:(python,爬虫)